Le pain babka peut provenir de Juifs d'Europe de l'Est, ou il peut s'agir d'un parent éloigné du pannetone italien. Les origines exactes du pain babka sont inconnues.
Le pain Babka peut être originaire de Pologne ou d'Ukraine. Une théorie pose qu'elle faisait partie d'un ancien rituel de fertilité dans le cadre du système matriarcal. Ce type de pain roulé et fourré est particulièrement populaire en Russie, en Biélorussie, dans les pays baltes, en Pologne et en Ukraine. Le nom "babka" est lié à "babcia", le mot slave pour grand-mère. Une théorie est que la poêle polonaise traditionnelle utilisée pour la cuisson du babka ressemble aux plis de la jupe d'une vieille femme. Une autre théorie sur le nom est que les grands-mères étaient les principaux boulangers du plat.
Une autre théorie prétend que la babka est en fait originaire d'Italie, où elle est considérée comme une version "russifiée" du pain pannetone italien. Peut-être que la reine Bona Sforza a apporté la tradition avec elle en Pologne au 16ème siècle. L'idée que le babka est originaire d'Italie est soutenue par l'inclusion de chocolat dans certaines versions. Les Juifs sont devenus chocolatiers en Italie, et ils ont apporté la tradition avec eux lorsqu'ils ont fui l'Inquisition espagnole au XVe siècle.
Babka était autrefois beaucoup plus grand que la version actuelle. Au début du XIXe siècle, les boulangers polonais ont commencé à utiliser de la pâte à challah aux œufs pour préparer un dessert à tartiner de confiture, de cannelle ou de raisins secs, qui constituaient la base du pain babka moderne.