De meeste gebieden van het kanton maakten ooit deel uit van de Romeinse provincie Raetia, die in 15 voor Christus werd opgericht. Het gebied maakte later deel uit van het grondgebied van het bisdom Chur.
In 1367 werd de Liga van Gods Huis opgericht tegen de macht van de bisschop van Chur. In 1395 volgde de oprichting van de Grijze Bond, ook wel Oberbund genoemd, in het dal van de Boven-Rijn. De naam Grijze Bond is afgeleid van de huisgemaakte grijze kleding die de mensen droegen. De naam van deze bond gaf later zijn naam aan het kanton Graubünden.
De eerste stap naar de naamgeving van het kanton in Graubünden was toen de Liga van de Tien Rechtbanken zich in 1450 aansloot bij de Liga van Gods Huis. In 1471 sloten beide liga's zich aan bij de Grijze Liga. Dit betekende dat de liga's zich aansloten bij de Zwitserse Confederatie. De Habsburgers werden verslagen bij Calven Gorge en Dornach, waardoor de Zwitserse confederatie en de geallieerde liga's van het kanton Graubünden erkend werden.
De laatste sporen van de jurisdictie van de bisschop van Chur werden afgeschaft in 1526. De Musso-oorlog van 1520 dreef de Drie Liga's dichter bij de Zwitserse Confederatie. De gebieden van het kanton Graubünden maakten deel uit van de Helvetische Republiek, maar de "eeuwige bondgenoot" van Zwitserland werd in 1803 een kanton. De grondwet van het kanton dateert van 1892.
De wapens van de drie oorspronkelijke liga's maken nu alle deel uit van het wapen van het kanton.
In het kanton Graubünden werden personenauto's pas na verschillende stemmingen in 1926 toegestaan.