In 1947 kocht Leonard Chess een label genaamd Aristocrat Records. In 1950 haalde Leonard zijn broer Phil erbij en zij veranderden de naam van het label in Chess Records. De eerste release was "My Foolish Heart" b/w "Bless You" van Gene Ammon, wat een hit werd. In 1952 begonnen ze Checker Records voor de radio omdat de stations maar een beperkt aantal nummers van één label draaiden en in december 1955 begonnen ze Argo Records voor jazz muziek. De eerste LP werd geproduceerd in 1958.
In het begin was Leonard Chess de producer, maar later werden de zaken behartigd door Ralph Bass voor het gospelgedeelte en Willie Dixon voor de blues. Dixon schreef veel nummers die hits werden en speelde ook bas op veel opnamen. Het label was ook beroemd om zijn sessiemuzikanten die meespeelden op de meeste soulopnamen van het bedrijf in Chicago, zoals drummer Maurice White en bassist Louis Satterfield, beiden vormden later de funkgroep Earth, Wind, & Fire, gitaristen Pete Cosey, Gerald Sims en Phil Upchurch, pianist Leonard Caston, later producer bij Motown en organist Sonny Thompson. 1953 begonnen ze samen te werken met Sam Phillips' Memphis Recording Service. Een van de muzikanten uit Memphis was Howlin' Wolf, die veel hits voor Chess deed.
In 1969 werd het label verkocht aan General Recorded Tape (GRT) en in 1972 was het enige deel van het bedrijf dat nog bestond de opnamestudio, Ter-Mar Studios. In het midden van de jaren tachtig werd de catalogus van Chess Records verkocht aan MCA Records. De 50ste verjaardag van Chess Records werd gevierd met een aantal Cds met grote artiesten die voor Chess hadden opgenomen. In de jaren 2000 begon het heruitgave label Hip-O Select een reeks box-sets uit te brengen om het werk van Chess artiesten als Muddy Waters, Little Walter, Bo Diddley en Chuck Berry te vieren.