Dzimis 1835. gada 11. maijā Indriķu pusmuižā Limbažu tuvumā zemnieku Annas un Jēkaba daudzbērnu ģimenē.
Mācījies Limbažu elementārskolā, kur mācības notika vācu valodā. Baumaņu Kārlim ir izcilas sekmes zīmēšanā un mūzikā, kā arī valodās.
Pabeidzis Limbažu elementārskolu un apriņķa skolu, 1853. gadā viņš uzsāk mācības J. Cimzes vadītajā Valkas skolotāju seminārā, kur apgūst vispārizglītojošus priekšmetus, pedagoģiju, svešvalodas, mūzikas teoriju, vijoles un ērģeļu spēli. Seminārā gūtās zināšanas kļūst par pamatu Baumaņu Kārļa panākumiem tālākajā pedagoģiskajā darbībā.