In de jaren 1840 vestigden zich voor het eerst Europeanen in het gebied, nadat ontdekkingsreiziger Thomas Mitchell in 1836 door het gebied was getrokken. In 1841 schreef Horatio Wills, op weg naar land verder naar het zuiden, in zijn dagboek: "zoals de Ark rustten wij". Hij noemde een nabijgelegen heuvel Mt Ararat. De stad werd naar de berg genoemd.
Goud
Goud werd voor het eerst ontdekt in mei of juni 1854, door Joseph Pollard op een plaats genaamd Pinky Point, ongeveer 6 km naar het westen. Binnen enkele weken waren er meer dan 9.000 mensen in het gebied op zoek naar goud. Op 1 februari 1856 werd in het gebied een postkantoor geopend, Cathcart genaamd. De naam werd veranderd in Ararat op 31 augustus 1857.
In april 1857 vond een groep van 700 Chinese mijnwerkers op weg naar de goudvelden in Clunes, Victoria goud op de huidige plaats van Ararat. Dit werd de Canton Lead genoemd. De Chinezen waren gedwongen om vanuit Zuid-Australië te lopen, meer dan 500 km (311 mi), omdat de Victoriaanse regering had geprobeerd de komst van Chinezen per schip tegen te houden. Binnen twee weken kwamen meer dan 20.000 mensen naar Ararat om naar goud te graven. Europese mijnwerkers probeerden de Chinese mijnwerkers van de goudvelden te verjagen, maar zij bleven en hadden in drie weken tijd meer dan 93 kg goud gevonden. Dit was het begin van een grote groei in Ararat. De band van de stad met China blijft bestaan, want ze heeft een zusterstadverbinding met Taishan, China. Tegen 1859 had Ararat een krant, een ziekenhuis, kerken, een gerechtsgebouw en een mechanisch instituut (vergaderzalen met een bibliotheek).
In 1863 was het meeste goud gevonden en werd Ararat een stadscentrum voor de boeren in de omgeving. Franse kolonisten plantten in 1863 wijnstokken in het gebied. Toen in 1875 de spoorweg naar Ararat werd aangelegd, werd het een belangrijk spoorwegknooppunt.