Bajer var prestesønn og republikaner. Han trosset faren og tok militær utdanning. I fritiden leste han statsrett og historie og holdt seg politisk orientert. Hans militærkarriære fikk en brå slutt da hæren reduserte sin stab og han ble oppsagt. Han dro til København og arbeidet som lærer og oversetter, samtidig som han var en flittig skribent og foredragsholder. Han arbeidet for en forening av Norden og stiftet "Nordens Fristatssamfunn" i 1871. Landene skulle ha indre selvstyre, men føre en felles utenrikspolitikk. De skulle være nøytrale. Han var med å opprette "Det internasjonale fredsbyrå" i Bern i 1891 og hadde viktige tillitsverv og fungerte som sekretær for den danske interparlamentariske gruppen.