In 1894 werd de eerste voetbalclub opgericht en 10 jaar later de Österreichischer Fußball-Bund (Oostenrijkse voetbalbond). Tot 1904 was de Österreichische Fußball-Union het belangrijkste orgaan in het Oostenrijkse voetbal, maar die werd opgeheven na de oprichting van de ÖFB. In 1905 werd zij lid van de FIFA. In 1908 was de ÖFB gastheer voor het vijfde FIFA-congres. Sinds 1954 is de ÖFB ook lid van de UEFA.
De tijd voor de Tweede Wereldoorlog was de meest succesvolle voor de ÖFB. Tussen 1930 en 1933 won het zogenaamde Wunderteam 14 wedstrijden. In 1934 bereikten ze de vierde plaats op de FIFA World Cup. Het Oostenrijkse team won de zilveren medaille op het Olympisch voetbaltoernooi in Berlijn. Ook na de Tweede Wereldoorlog speelde Oostenrijk in verschillende FIFA-Wereldbekers: 1954, 1958, 1978, 1982, 1990 en 1998. Het meest succesvolle WK was dat van 1954 met een derde plaats. Het laatste internationale toernooi was het UEFA Euro 2008 dat door Oostenrijk en Zwitserland werd georganiseerd.