Hildesheim is een van de oudste steden van Noord-Duitsland. De stad is wellicht gesticht toen de bisschop van Elze naar de Innerste ford verhuisde, waar het een belangrijke markt was op de Hellweg. De nederzetting groeide al snel uit tot een stad die in 983 door koning Otto III marktrechten kreeg. Oorspronkelijk werd de markt gehouden op een straat genaamd Oude Markt (Alter Markt), die vandaag de dag nog steeds bestaat. De eerste marktplaats werd aangelegd rond de Sint-Andrieskerk. Naarmate de stad groter werd, werd een grotere marktplaats belangrijker. De huidige markt in Hildesheim werd in het begin van de 13e eeuw aangelegd, toen de stad ongeveer 5.000 inwoners telde. Toen Hildesheim in 1249 stadsrechten kreeg, was het een van de grootste steden in Noord-Duitsland. Vier eeuwen lang regeerde de geestelijkheid over Hildesheim, voordat er een stadhuis werd gebouwd en de burgers enige invloed en onafhankelijkheid kregen. De bouw van het huidige stadhuis begon in 1268 en in 1367 werd Hildesheim lid van de Hanzebond. Een oorlog tussen de burgers en hun bisschop kostte in 1519-1523 veel geld toen ze in een vete verwikkeld raakten. Hildesheim werd protestants in 1542 en alleen de kathedraal en enkele andere gebouwen bleven in keizerlijke (rooms-katholieke) handen. Ook verschillende dorpen in de omgeving van de stad bleven rooms-katholiek. In 1813, na de Napoleontische oorlogen, werd de stad onderdeel van het Koninkrijk Hannover, dat na de Oostenrijks-Pruisische oorlog in 1866 als provincie werd geannexeerd door het Koninkrijk Pruisen.
De stad werd in de Tweede Wereldoorlog gebombardeerd, maar de bombardementen hadden weinig belang in de loop van de oorlog. 28,5% van de huizen werd verwoest en 44,7% beschadigd. 26,8% van de huizen had geen schade. Het centrum, dat tot dan toe nog zijn middeleeuwse karakter had, werd bijna geëgaliseerd. Zoals in veel steden werd er voorrang gegeven aan de snelle bouw van broodnodige woningen en namen betonnen constructies de plaats in van de vernielde gebouwen. Gelukkig werden de meeste grote kerken, waarvan er twee nu op de UNESCO-werelderfgoedlijst staan, kort na de oorlog in de oorspronkelijke stijl herbouwd. Tijdens de oorlog waren in de kelder van de stadsmuur waardevolle materialen voor het werelderfgoed verborgen. In 1978 werd de Universiteit van Hildesheim opgericht. In de jaren tachtig van de vorige eeuw werd begonnen met de wederopbouw van het historische centrum. Een deel van de nieuwe betonnen gebouwen in de buurt van de markt werd gesloopt. In plaats daarvan werden er replica's van de oorspronkelijke gebouwen gebouwd.