La croix d'ancre symbolise l'espoir des chrétiens pour le salut par Jésus-Christ. L'ancre est mentionnée dans l'épître aux Hébreux dans le Nouveau Testament, et est l'un des premiers symboles chrétiens.
Dans l'église chrétienne primitive pendant les périodes de persécution, l'ancre était l'un des substituts du symbole de la croix. Les premiers chrétiens étaient réticents à afficher publiquement le symbole central de leur foi dans un environnement païen. De plus, certains règlements de l'église stipulaient que ce qui était adoré ne devait pas devenir une simple décoration.
L'ancre se trouve souvent dans les lieux de sépulture des premiers chrétiens romains. D'autres symboles de substitution utilisés étaient le trident et une croix décussée, qui ressemble à la lettre grecque chi. Le symbole répandu de la Crucifixion à cette époque était un agneau au pied de l'ancre : l'agneau représentant le Christ, et l'ancre la croix.
Dans Hébreux 6 :19, l'espérance de la vie éternelle par la mort de Jésus-Christ est appelée « une ancre sûre et inébranlable de l'âme ». Clément d'Alexandrie était l'un des premiers dirigeants de l'église à s'opposer à l'utilisation de symboles. Néanmoins, il approuva la croix d'ancrage. La croix de l'ancre était le signe du martyre de saint Clément, qui, sur ordre de l'empereur Trajan, fut attaché à une ancre et se noya dans la mer.