La terre sur laquelle se trouve Jérusalem, ainsi que la ville elle-même, ont historiquement eu une grande importance pour les Juifs en raison des événements importants qui s'y sont déroulés. Le patriarche des Juifs, Abraham, Dieu lui a demandé de sacrifier son fils unique sur le mont Moriah, qui se trouve dans l'actuelle Jérusalem.
Plus tard, à l'époque de Moïse, Dieu a aidé Moïse à retirer les enfants d'Israël (les Juifs) de la servitude en Égypte, et Dieu a promis aux Juifs une terre promise, où coulent le lait et le miel. Ceux qui ont quitté l'Égypte ont eu des crises de foi qui ont entraîné un long voyage à travers le désert, mais finalement ils ont reçu l'ordre d'aller dans le pays qui deviendrait Israël (et Jérusalem deviendrait la capitale). Quelque temps après que les enfants d'Israël eurent pris possession du pays, Dieu leur donna le roi David, qui aimait Dieu et voulait construire à Dieu un temple à Jérusalem dans lequel les gens pourraient l'adorer. Cependant, ce serait le fils de David, Salomon, qui construirait le temple. Dieu est venu habiter dans la partie du temple appelée le « Saint des Saints ». Comme à l'époque où ils étaient en Égypte, les enfants d'Israël ont eu plus de crises de foi, abandonnant souvent Dieu pour les divinités locales et ne suivant pas les commandements que Dieu leur avait donnés. En conséquence, Dieu les envoya en captivité à Babylone pendant 70 ans. Finalement, ils sont revenus à Jérusalem et ont reconstruit le temple, qui avait été détruit. La reconstruction n'était pas aussi belle que le temple d'origine, mais elle a duré jusqu'à environ 70 ans après la naissance de Jésus-Christ, lorsque les Romains l'ont détruit. L'Ancien Testament de la Bible décrit tous ces événements et d'autres, qui démontrent pourquoi Jérusalem est si importante pour les Juifs.