Според Стариот завет, Давид, кралот на двете кралства на Јудеја и Израел, го освоил Ерусалим околу 1.000 година пред новата ера. Седиштето на владата го префрлил во Ерусалим, со што го претворил во главен град и верски центар на кралството. Библијата вели дека синот на Давид, Соломон го изградил првиот храм во чест на Јахве, богот на Израел. Ерусалим станува центар на јудаизмот.

Нео-вавилонскиот крал Небукаданезар II (трет од лево) го освоил Ерусалим во 597 п.н.е., според Библијата. Ги заробил кралот Јехоаким (петти од десно) и припадниците на високата класа, ги испратил во Вавилон и го уништил храмот. Откако персискиот крал Сирус Велики го освоил Вавилон, им дозволил на прогонетите Евреи да се вратат во Ерусалим и повторно да го изградат својот храм.

Од 63 година п.н.е. Ерусалим паѓа под окупација на Рим. Се формираат повеќе движења на отпорот, па во 66 година избувнува првата Еврејско-Римска војна. По четири години војната завршува, а храмот е повторно уништен. Римјаните и Византијците владеат со Ерусалим околу 600 години.

При освојувањето на Сирија, муслиманските армии стигнуваат и до Палестина. По наредба на Калифот Умар (на фотографијата), Ерусалим е освоен во 637 година. Во следните години повеќе различни, меѓусебно спротивставени муслимански владетели го контролираат градот. Ерусалим е често под опсада, а владетелите се менуваат.

Од 1070 година, муслиманските владетели стануваат сѐ поголема закана за христијанскиот свет. Папата Урбан II повикува на крстоносна војна. Севкупно, пет крстоносни походи се организираат во период од 200 години. Во 1244, крстоносците конечно ја губат контролата врз градот и тој паѓа под муслиманска управа.

По освојувањето на Египет и Арабија од Отоманите, Ерусалим станува административно седиште на Отоманскиот административен регион во 1535 година. Во првите децении на отоманското владеење, градот доживува процут. Со победата на Британците над Отоманските трупи во 1917 година, Палестина потпаѓа под британска управа. Ерусалим е преземен од Британците без борба.

По Втората светска војна, Британците се откажуваат од палестинскиот мандат. ОН гласаат за поделба на земјата, со цел да се отвори простор за преживеаните од Холокаустот. Неколку арапски држави започнуваат војна против Израел и освојуваат дел од Ерусалим. Сѐ до 1967 година, градот е поделен на израелски западен и јордански источен дел.

Во 1967, Израел ја започнува Шестдневната војна против Египет, Јордан и Сирија. Израел ги освојува Синај, Појасот Газа, Западниот Брег, Голанската висорамнина и источен Ерусалим. Израелски падобранци доаѓаат до Стариот град и стојат пред Ѕидот на плачот за првпат од 1949 година. Источен Ерусалим не е официјално анектиран, туку административно интегриран.

Израел не им забранува на муслиманите пристап до светите места. Ридот на храмовите е под автономна муслиманска администрација: муслиманите можат да влегуваат, да го посетуваат храмот и блиската Ал-Акша џамија.

Ерусалим до денес останува пречка за мирот меѓу Израел и Палестина. Во 1980, Израел го прогласува целиот град за свој „вечен и нераздвојлив главен град“. Откако Јордан се откажува од своето право на Западниот Брег и Источен Ерусалим во 1988 година, прогласена е државата Палестина. И Палестина го смета Ерусалим, во теорија, за свој главен град.