Hoewel er niet veel archeologisch bewijs is, leefden de mensen in de gebieden langs Hilo Bay, Wailuku en Wailoa Rivers voordat de westerse wereld contact maakte. Ze stonden bekend als de Hilo. Ze domineerden de hoge bergtoppen tot het midden van de 19e eeuw. Hilo betekent hoge bergtop in de oorspronkelijke taal van de inheemse volkeren die op de bergtoppen leefden. Koning Kamehameha, de eerste koning van Hawaï, veroverde alle eilanden en verplaatste vervolgens de Hilo-bergnederzetting naar de kust na de komst van buitenstaanders.
Oorspronkelijk was de naam Hilo van toepassing op het hele district van Hilo, nu verdeeld in het district Zuid-Hilo en het district Noord-Hilo. Toen William Ellis in 1823 op bezoek kwam, was de belangrijkste nederzetting in het Hilo-district Waiākea aan de Hilo-baai. Zendelingen kwamen naar het district in het begin van de jaren 1800 en stichtten verschillende kerken, met name de Haili kerk, in het gebied van het moderne Hilo.
Hilo breidde zich uit omdat de suikerplantages in de omgeving nieuwe banen creëerden en veel arbeiders uit Azië aantrokken, waardoor de stad een handelscentrum werd.
Een golfbreker aan de overkant van de Hilo-baai is in de jaren 1900 begonnen en in 1929 voltooid. Op 1 april 1946 werd Hilo 4,9 uur later getroffen door een aardbeving met een magnitude van 7,8 bij de Aleutische eilanden, waardoor een veertien meter hoge tsunami ontstond waarbij 160 mensen omkwamen. Als reactie hierop werd in 1949 een vroegtijdig waarschuwingssysteem, het Pacific Tsunami Warning Center, opgericht om deze dodelijke golven op te sporen en te waarschuwen. Deze tsunami betekende ook het einde van de Hawaii Consolidated Railway, en in plaats daarvan werd de Hawaii Belt Road ten noorden van Hilo gebouwd met behulp van een deel van de railbedding.
Op 23 mei 1960 eiste een andere tsunami, veroorzaakt door een aardbeving met een kracht van 9,5 voor de kust van Chili de dag ervoor, 61 levens, naar verluidt omdat de mensen geen rekening hielden met de waarschuwingssirenes. Laaggelegen gebieden aan de baai van de stad op het schiereiland Waiākea en langs de Hilo-baai, die voorheen bevolkt waren, werden heringedeeld als parken en gedenktekens.
