De muziek werd in 1797 door Haydn geschreven als volkslied van Oostenrijk. Het heette "Gott erhalte Franz den Kaiser" ("God beschermt onze keizer Franz"). De woorden die vandaag worden gebruikt, werden geschreven door de dichter August Heinrich Hoffman von Fallersleben in 1841.
Tegenwoordig klinkt de eerste regel "Duitsland, Duitsland boven alles" voor sommige mensen te sterk, en wordt hij vaak verkeerd begrepen. Fallersleben wilde een verenigd Duitsland toen hij het schreef. In die tijd was Duitsland niet één land, maar vele kleine landen. Dus "Duitsland boven alles" betekende dat een verenigd Duitsland het belangrijkste was. Ook was de dichter in Helgoland, waar men Duits sprak maar geregeerd werd door de Britten.
De muziek van Fallersleben was zeer populair in Duitsland tijdens het tweede deel van de 19e eeuw. Dit lied was toen geen volkslied, maar een patriottisch lied ter ondersteuning van een verenigde Duitse staat. In 1918 verving het het volkslied van het Duitse Rijk "Heil Dir im Siegerkranz" ("Lof aan de oorlogswinnaar"), toen keizer Wilhelm II aan het eind van de Eerste Wereldoorlog de macht verloor. In 1921 schreef de dichter Albert Matthai een "vierde strofe", een nieuw deel of vers, met woorden over het moeilijke leven in Duitsland in die tijd. Dit vers werd zelden gebruikt.
Ten tijde van Adolf Hitler werd alleen het eerste deel van het lied gebruikt. Dit werd vaak gevolgd door een nazi-partijlied. Dit beledigde het internationale publiek, omdat de eerste strofe Duitsland steunt in zijn koloniale macht in niet-consenterende landen.
Na de Tweede Wereldoorlog werd Duitsland verdeeld in twee landen. In 1949 probeerde het nieuwe West-Duitsland een nieuw lied voor het volkslied te krijgen. Er werd een ander lied gekozen, geschreven door de dichter Rudolf Alexander Schröder. Het was niet erg populair. Uiteindelijk werd het derde deel van het Fallerslebenlied tot volkslied verheven.
In het andere deel van Duitsland, het Oost-Duitsland, werden de woorden van de dichter Johannes R. Becher ("Auferstanden aus Ruinen" - "Opgebouwd uit de ruïnes") gebruikt met een lied geschreven door Hanns Eisler. Het was niet erg populair, en vanaf de jaren 1970 werden de woorden niet meer gezongen, vanwege de regel "Duitsland, [ons] verenigd vaderland".
Na de hereniging van Oost- en West-Duitsland in 1990 werd het Fallerslebenlied opnieuw het volkslied van Duitsland, maar alleen het derde deel wordt gebruikt. Tegenwoordig is het eerste deel van het lied populair bij nationalistische extremisten.