De details van de ontdekking van Gough Island zijn onduidelijk, maar de meest waarschijnlijke gelegenheid is juli 1505 door de Portugese ontdekkingsreiziger Gonçalo Álvares. Kaarten in de loop van de volgende drie eeuwen hebben het eiland naar hem vernoemd. Op sommige latere kaarten werd dit ten onrechte vermeld als Diego Alvarez.
Volgens sommige historici was de Britse koopman Anthony de la Roché de eerste die in de australe herfst van 1675 op het eiland landde.
Charles Gough herontdekte het eiland op 3 maart 1732. Hij dacht dat het een nieuwe vondst was. Het had de naam Gonçalo Álvares gekregen sinds 1505, naar de kapitein van Vasco da Gama's vlaggenschip op zijn epische reis naar het oosten. Het was onder deze naam dat het met redelijke nauwkeurigheid op de kaarten van de Zuid-Atlantische Oceaan werd gemarkeerd gedurende de volgende 230 jaar.
Toen, in 1732, meldde kapitein Gough van het Britse schip Richmond de ontdekking van een nieuw eiland. Hij plaatste het 400 mijl ten oosten van Gonçalo Álvares. Vijftig jaar later beseften de cartografen dat de twee eilanden hetzelfde waren. Ondanks de prioriteit van de Portugese ontdekking, en de grotere nauwkeurigheid van de door hen gegeven positie, werd de naam "Gough's Island" aangenomen.
In het begin van de 19e eeuw bewoonden zeehondenjagers het eiland kortstondig. Het vroegst bekende voorbeeld is een zeehondenbende uit het Amerikaanse schip Rambler (Captain Joseph Bowditch) die in het seizoen 1804-1805 op het eiland bleef. Het tijdperk van de zeehondenvangst duurde van 1804 tot 1910. Van 34 zeehondenschepen is bekend dat ze het eiland hebben bezocht, waarvan er één voor de kust verloren is gegaan.
De Schotse Nationale Antarctische Expeditie op de Schotse eilanden bracht op 21 april 1904 het eerste bezoek aan het eiland door een wetenschappelijke partij, toen William Speirs Bruce en anderen exemplaren verzamelden. De Shackleton-Rowett Expeditie stopte ook op het eiland in 1922.
Gough Island werd in 1938 formeel opgeëist voor Groot-Brittannië, tijdens een bezoek van HMS Milford van de Royal Navy. In 1995 werd het eiland geklasseerd als UNESCO-werelderfgoed. In 2004 werd de site uitgebreid met Inaccessible Island en omgedoopt tot Gough and Inaccessible Islands.
Gough Island is de enige plaats buiten Zuid-Amerika van waaruit de zonsverduistering van 12 september 2034 zichtbaar zal zijn; het centrum van het pad van de totaliteit loopt over het eiland.