De acuerdo con el Antiguo Testamento, el rey David conquistó Jerusalén en torno al año 1000 a.C. Trasladó allí su sede de gobierno, convirtiendo a Jerusalén en la capital y centro religioso de su reino. Salomón, hijo de David, construyó según la Biblia el primer templo para Yahvé, el Dios de Israel, y Jerusalén pasó a ser el centro del judaísmo.

El rey babilonio Nabucodonosor II conquistó Jerusalén en el año 597 y en el 586 antes de Cristo, según la Biblia. Tomó prisionero al rey Joaquín y a la clase alta judía, los llevó a Babilonia y destruyó el templo. Más adelante, el rey persa Ciro conquistó a su vez Babilonia, tras lo cual autorizó a los hebreos a regresar a Jerusalén y reconstruir el templo.

Jerusalén cayó bajo dominio del Imperio Romano. Pero en la población se fue formando la resistencia y en el año 66 d.C. estalló la guerra judeo-romana. Terminó cuatro años más tarde con una victoria romana y la nueva destrucción del Templo de Jerusalén. Roma y Bizancio dominaron cerca de 600 años Palestina.

Por orden del califa Omar, en el año 637 Jerusalén fue sitiada y tomada. En la era de dominio musulmán que se inició entonces, la ciudad fue sitiada en múltiples ocasiones y cambió varias veces de gobernantes.

El mundo cristiano se sintió cada vez más amenazados por los selyúcidas musulmanes que dominaron a partir de 1070. El Papa Urbano II llamó finalmente a emprender una cruzada. En 200 años, los europeos llevaron a cabo cinco cruzadas para conquistar Jerusalén. Por momentos lo consiguieron. Pero en 1244 los cruzados perdieron definitivamente la ciudad, que volvió a caer en manos musulmanas.

Tras la conquista otomana de Egipto y Arabia, Jerusalén se convirtió en 1535 en sede administrativa de un distrito otomano. Las primeras décadas de dominio turco brindaron a la ciudad un considerable auge. En 1917, con el triunfo de Gran Bretaña sobre las tropas turcas, Palestina quedó bajo control británico. Jerusalén pasó sin resistencia a manos británicas.

Después de la II Guerra Mundial, los británicos entregaron su mandato sobre Palestina. La ONU se pronunció por una partición del territorio, para crear una patria para los sobrevivientes del Holocausto. Algunos Estados árabes emprendieron una guerra contra Israel y conquistaron parte de Jerusalén. Hasta 1967, la ciudad estuvo dividida en una parte occidental israelí, y una parte oriental jordana.

En 1967, Israel libra la Guerra de los Seis Días contra Egipto, Jordania y Siria. Conquista el Sinaí, la Franja de Gaza, la Cisjordania, los Altos del Golán y Jerusalén Oriental. Paracaidistas israelíes se abren paso hasta el casco antiguo y llegan al Muro de los Lamentos por primera vez desde 1949. Oficialmente Jerusalén Oriental no es anexada, sino integrada administrativamente.

Desde entonces, Israel no niega a los musulmanes el acceso a sus lugares sagrados. El Monte del Templo o Explanada de las Mezquitas está bajo administración autónoma musulmana.

Jerusalén constituye hasta hoy un obstáculo en el camino hacia la paz entre israelíes y palestinos. En 1980, Israel declaró a la ciudad como su "capital eterna e indivisible". Jordania renunció en 1988 a sus pretenciones sobre la la Cisjordania y Jerusalén Oriental, en favor de la Organización para la Liberación de Palestina (OLP). Los palestinos conciben a Jerusalén oriental como su capital.