In 539 v. Chr. viel het Neo-Babylonische Rijk in de Slag bij Opis in handen van Cyrus de Grote, de koning van
Perzië. De muren van Babylon waren zeer hoog en zeer dik. De enige manier om de stad binnen te komen was door een van de vele poorten. De Eufraat stroomde naast de muren en Cyrus besloot de rivier te gebruiken om de stad binnen te komen. De troepen van Cyrus verlegden de rivier de Eufraat. Hierdoor daalde het niveau van de rivier, waardoor soldaten de stad konden binnenkomen.
De Babyloniërs hadden die avond een feest gehouden. Het Perzische leger nam het grootste deel van de stad in voordat de Babyloniërs in de gaten hadden dat de Perzen de stad waren binnengedrongen. Het verslag werd opgetekend door Herodotus, en wordt ook vermeld in de Hebreeuwse Bijbel. Cyrus eiste de stad op door door de poorten van Babylon te lopen met weinig of geen tegenstand van de dronken Babyloniërs.
Cyrus vaardigde later een decreet uit dat mensen, waaronder de Joden, toestond naar hun eigen land terug te keren. Dit wordt in het Oude Testament vermeld. Het stond toe dat de Joodse tempel in Jeruzalem werd herbouwd.
Onder Cyrus en de daaropvolgende Perzische koning Darius de Grote werd Babylon de hoofdstad van de 9e Satrapie (Babylonië in het zuiden en Athura in het noorden). Het was een centrum van geleerdheid en wetenschappelijke vooruitgang. In Achaemenidisch Perzië werd de Babylonische kunst van de astronomie en de wiskunde nieuw leven ingeblazen. Babylonische geleerden maakten kaarten van sterrenbeelden. De stad was de administratieve hoofdstad van het Perzische Rijk. Dit rijk was het machtigste van de toen bekende wereld. Er zijn veel belangrijke archeologische ontdekkingen gedaan die ons begrip van die tijd verbeteren.
De vroege Perzische koningen hadden getracht de religieuze ceremoniën van Marduk in stand te houden. Tegen de regering van Darius III hadden overbelasting en talrijke oorlogen geleid tot een verval van Babylon's belangrijkste heiligdommen en kanalen, en tot de desintegratie van de regio. Ondanks drie opstanden in 522 v. Chr., 521 v. Chr. en 482 v. Chr. bleven het land en de stad Babylon twee eeuwen lang onder Perzisch bestuur. In 331 v. Chr. nam Alexander de Grote de macht over. Onder het Parthische Rijk bleef Babylon krimpen en aan belang inboeten.