Hall werd geboren in Staffordshire, Engeland, Verenigd Koninkrijk en groeide op in Brandon, Manitoba. Bijgenaamd "Bad Joe" voor zijn agressiviteit op het ijs, speelde hij in de Manitoba Hockey Association met de Brandon Wheat Kings, Winnipeg Rowing Club en de Kenora Thistles, en in de National Hockey Association als lid van de Quebec Bulldogs. Hij speelde voor de Montreal Canadiens in hun eerste twee seizoenen in de National Hockey League van 1917-1919.
Hall won de Stanley Cup met de Kenora Thistles in 1907, waarvoor hij een "loving cup" kreeg die te zien is in de Hockey Hall of Fame. Hij won de Cup met de Quebec Bulldogs in 1912 en 1913. Hij daagde ook voor de Stanley Cup in 1904 met de Winnipeg Rowing Club.
1919 Stanley Cup Finale
In 1919 maakte Hall deel uit van het team van de Montreal Canadiens dat de Stanley Cup Finals haalde. De finale werd onderbroken en uiteindelijk afgelast vanwege een uitbraak van de Spaanse griep. De griep werd opgelopen door verschillende spelers van zowel de Canadiens als hun tegenstanders, de Seattle Metropolitans. Hall zou uiteindelijk bezwijken aan een longontsteking, gerelateerd aan de griep, in een ziekenhuis in Seattle, Washington, slechts vier dagen nadat de Stanley Cup Final serie werd afgebroken.
Hij werd opgenomen in de Hockey Hall of Fame in 1961.