De stad werd gesticht in 1656. De regio werd ongeveer 10.000 jaar geleden voor het eerst bewoond (epipaleolithicum). Een schedel en andere sporen zijn gevonden in grotten in de buurt.
In het midden van de 14e eeuw werd de streek gekoloniseerd vanuit het zuidelijke Val-de-Ruz. La Chaux-de-Fonds wordt voor het eerst vermeld in 1350 als la Chaz de Fonz. In 1378 wordt het vermeld als Chault de Font.
De streek stond onder het gezag van de heren van Valangin. In de 15e en 16e eeuw kwam een tweede golf van kolonisatie uit de zogenaamde Clos de la Franchise (de valleien van Le Locle en La Sagne). Landbouw was de hoofdactiviteit, maar het dorp bleef klein. In 1531 woonden er slechts ongeveer 35 mensen. De eerste kerk werd gebouwd in 1528. In 1530 bekeerde La Chaux-de-Fonds zich, net als de rest van de Valangin-landen, tot het nieuwe gereformeerde geloof. De Heer van Valanginian, René de Challant, legde de grenzen van de parochie vast in 1550. De kerk en de parochie zorgden voor een politieke structuur en een kleine gemeenschap van burgers van Valanginian, vrije boeren en boeren groeide rond de kerk. In 1615 woonden er 355 mensen in het dorp. In 1616 verhuisden de lage en middelbare jurisdictie over La Chaux-de-Fonds naar Le Locle en La Sagne, terwijl de hoge rechtbank in Valanginian bleef. De landbouw, aangevuld met molens aan de oevers van de Doubs, bleef overheersen. Aan het eind van de 16e eeuw werd de stad echter een belangrijk kruispunt tussen Neuchâtel, Franche-Comté en het bisdom Basel.
De gemeenschap groeide tijdens de Dertigjarige Oorlog, vooral vanwege haar strategische positie voor de handel. In de 18e eeuw kwam de economische activiteit in een stroomversnelling door de ontwikkeling van de kantwerkindustrie en de horlogerie. Pierre Jacquet-Droz, vooral bekend om zijn automaten, was een bijzonder prominente horlogemaker uit deze tijd.
In 1794 werd de stad verwoest door een brand. Charles-Henri Junod ontwierp het nieuwe stadsplan in 1835, en de stad staat nu bekend om zijn "moderne", rastervormige plan, in vergelijking met de kronkelige straten van de meeste Europese steden. De centrale laan heet de Avenue Léopold Robert.