Jeruzalem is een zeer oude stad. Het is van groot belang voor drie godsdiensten: Jodendom, Christendom en Islam. De Bijbel zegt dat koning David, de tweede koning van Israël, deze stad uit heidenen heeft weggehaald en er zijn paleis heeft neergezet. Koning Salomo, de zoon van David en de volgende koning, bouwde de Tempel van Salomo in Jeruzalem. Later, als hoofdstad van Juda, werd Jeruzalem verwoest door Nebukadnessar II, de koning van Babel. Het Paleis van Koning David en de Tempel van Salomo werden verbrand en de Joden werden gevangen genomen en naar Babel gebracht. Zeventig jaar later stond de Perzische koning Cyrus hen toe terug te keren naar Jeruzalem en de Tempel te herbouwen.
Later werd het gebied bezet door Romeinen. Koning Herodes de Grote, die voor de Romeinse keizer regeerde, maakte de Tempel groter om te proberen de Joodse gunst te winnen. De Tempel was beroemd om zijn grootsheid en schoonheid.
Jezus stierf in Jeruzalem rond 33 CE. In 70 jaar CE kwamen de Joden in opstand tegen de Romeinen, maar de Romeinen vernietigden de stad en de Tempel. De Joden die in Jeruzalem woonden werden gevangen genomen en werden slaven. De Romeinen hernoemden Jeruzalem met een Latijnse naam. Sindsdien is de Tempel niet meer herbouwd, en tot op de dag van vandaag is er slechts een deel van de muur van de Tempel overgebleven.
Nadat het Romeinse Rijk in tweeën was gesplitst, regeerde het Byzantijnse Rijk over Jeruzalem. Later namen de moslims de stad van hen over. De moslims geloofden dat Mohammed vanuit Jeruzalem naar de hemel ging.
Later stuurde de Paus in Rome de kruisvaarders uit West-Europa om te proberen Jeruzalem in te nemen. Dat lukte een tijdje, maar uiteindelijk viel de stad weer ten prooi aan de Saracenen. Tot in de 20e eeuw maakte Jeruzalem deel uit van het OttomaanseRijk. Er waren altijd al enkele Joden in Jeruzalem, ook al werden ze door andere mensen geregeerd.
De "Nieuwe Stad" van Jeruzalem is het gedeelte buiten de oude stenen muren. In de jaren 1800 is men begonnen met de bouw van de nieuwe stad. Mishkenot Sha'annanim, Mea Shearim en de Bukharan wijk zijn enkele van de eerste buurten in de nieuwe stad.
Na de Eerste Wereldoorlog was het Ottomaanse Rijk verslagen. In juni 1922 keurde de Volkenbond het Britse Mandaat van Palestina goed. Dit gaf de controle over het gebied aan het Verenigd Koninkrijk. Het land ten westen van de Jordaan stond bekend als Palestina. Het stond tot 1948 onder directe Britse controle. Het land ten oosten van de Jordaan stond bekend als Transjordanië en werd bestuurd door de Hasjemitische familie. Transjordanië werd in 1946 onafhankelijk.
Het mandaat in Palestina eindigde op 14 mei 1948 om middernacht. De volgende dag begon de Arabisch-Israëlische oorlog van 1948. Israël riep de onafhankelijkheid uit, de Westelijke Jordaanoever werd geannexeerd door Jordanië en Egypte nam de controle over de Gazastrook over.
In 1949, aan het einde van de eerste Arabisch-Israëlische oorlog, werd Jeruzalem verdeeld tussen Israël en Jordanië. Israël controleerde het westelijk deel van de stad. Jordanië controleerde het oostelijke deel, inclusief de Oude Stad, een ommuurd deel van Jeruzalem dat dateert uit de Bijbelse tijd. Israël nam de hele stad in handen tijdens de Zesdaagse Oorlog in 1967.
Jeruzalem wordt vandaag de dag door de staat Israël als hoofdstad opgeëist. De Verenigde Naties zijn het er niet mee eens dat Israël zegt dat Jeruzalem de hoofdstad van Israël is.