Albéniz begon piano te leren spelen toen hij drie was. Zijn oudere zus gaf hem les. Hij was een
wonderkind en trad voor het eerst op toen hij vier jaar oud was. Toen hij zeven was slaagde hij voor het toelatingsexamen voor piano aan het Parijse Conservatorium, maar hij kreeg geen plaats omdat ze hem te jong vonden. Een jaar later verloor zijn vader zijn baan, dus nam hij zijn twee kinderen mee op tournee, zodat ze concerten konden geven en wat geld konden verdienen. In
1869 verhuisde het gezin naar
Madrid, maar Albéniz beleefde een onrustige jeugd. Hij liep twee keer van huis weg, gaf concerten op verschillende plaatsen en ontsnapte zelfs als verstekeling naar
Zuid-Amerika, waar hij
Argentinië,
Uruguay,
Brazilië,
Cuba,
Puerto Rico en vervolgens de
VS bezocht. In 1873 keerde hij terug naar Spanje. Op vijftienjarige leeftijd had hij al concerten gegeven over de hele wereld. Na een kort verblijf aan het Conservatorium van Leipzig, ging hij in 1876 in Brussel studeren. In 1880 ging hij naar Boedapest om bij
Franz Liszt te studeren, maar Liszt was er niet.
In 1874 wilde zijn zus zangeres worden in het Teatro de la Zarzuela. Toen ze daar geen plaats kreeg pleegde ze zelfmoord.
Albéniz bleef over de hele wereld reizen. In 1883 ontmoette hij de leraar en componist Felipe Pedrell, die hem inspireerde tot het schrijven van Spaanse muziek, zoals de Suite Española, Op. 47. Het vijfde deel van die suite, Asturias (Leyenda) genaamd, werd later bewerkt voor gitaar. Het is waarschijnlijk het beroemdste stuk voor klassieke gitaar. De componist Francisco Tárrega maakte gitaarbewerkingen van vele andere pianowerken van Albéniz. Albéniz zei ooit dat hij de gitaarbewerkingen van Tárrega verkoos boven zijn eigen originele pianoversies.
In de jaren 1890 woonde Albéniz in Londen en Parijs en schreef hij voornamelijk theaterwerken. In 1900 begon hij te lijden aan de ziekte van Bright en begon hij meer pianomuziek te schrijven. Tussen 1905 en 1909 componeerde hij zijn beroemdste werk, Iberia (1908), een suite van twaalf piano-"impressies".
Zijn orkestwerken omvatten Spaanse Rapsodie (1887) en Catalonië (1899).
In 1883 trouwde de componist met zijn leerlinge Rosina Jordana. Zij kregen drie kinderen, Blanca (overleden in 1886), Laura (schilderes) en Alfonso (die begin 1900 voor Real Madrid speelde en daarna diplomaat werd).
Albéniz overleed op 18 mei 1909 op 48-jarige leeftijd in Cambô-les-Bains en ligt begraven in Barcelona.
