Smith werd geboren in Tacoma, Washington op 22 januari 1939. Hij studeerde in 1962 af aan de Universiteit van Puget Sound met een graad in filosofie en sociologie. Toen hij in 1965 afstudeerde aan de Drew University, begon Smith kooklessen te geven aan zijn studenten onder de naam "Food as Sacrament and Celebration", en werd hij gewijd als predikant in de United Methodist church. Smith kwam terug naar de Universiteit van Puget Sound, om in 1966 kapelaan te worden van de Aldergate Methodist Church, en trouwde datzelfde jaar met zijn vrouw Patricia "Patty" Smith. In 1972 openden Smith en zijn studenten in Tacoma, Washington, een delicatessenzaak en keukengerei onder de naam Chaplain's Pantry Restaurant and Gourmet Shop. In 1973 begon Smith zijn televisiecarrière met zijn eerste kookprogramma, Cooking Fish Creatively, op een lokaal Tacoma, Washington PBS-station, KTPS-TV. De eerste zes afleveringen van Cooking Fish Creatively werden in zwart-wit uitgezonden, en daarna kreeg het station federale subsidie voor kleurencamera's, omdat Smith werd gevraagd een nieuwe kookshow te ontwerpen, die hij The Frugal Gourmet noemde. De naam was voorgesteld door zijn vrouw, Patty. Het programma werd later overgebracht naar WTTW-TV in Chicago, en vervolgens door KQED in San Francisco, en A La Carte Communications, waar het van 1983 tot 1997 nationaal werd uitgezonden op PBS. Smith stond zelf bekend als "The Frugal Gourmet", maar zijn bijnaam werd al snel "The Frug". Smith verscheen altijd met zijn "handelsmerk", een blauw-wit gestreept schort. Zijn eerste kookboek, Recipes from The Frugal Gourmet, werd gepubliceerd in 1977. De themamuziek voor The Frugal Gourmet was het deel Bourree uit Water Music van George Frideric Händel. Toen Jeff Smith in 1984 zijn eerste hardcover kookboek uitbracht, kwam hij in het talkshowcircuit terecht.
In 1981 onderging Smith een hartklepoperatie. Hij was gedwongen de Chaplain's Pantry te verkopen om de enorme medische kosten te betalen. In 1983 werd hij geïnterviewd in de Phil Donahue show om zijn paperback kookboek te promoten. Daarna verkocht Smith 45.000 exemplaren voor 4,75 dollar per stuk. Met de winst kon hij uit de schulden komen. In 1983 pikte PBS station WTTW in Chicago zijn show op en zond die nationaal uit. De show werd 14 jaar lang uitgezonden, in totaal 261 afleveringen. Smith eindigde elke aflevering van The Frugal Gourmet met: "Tot ziens, dit is de Frugal Gourmet. Ik wens je vrede, bye-bye". Smith werd ook geciteerd als zeggend "sober betekent niet goedkoop." Hij verklaarde: "Een zuinige fijnproever is een zuinig persoon die van lekker eten houdt."
Smith verscheen in televisiereclames voor Columbia Crest Wines. In 1995 presenteerde Smith "The Frugal Gourmet Keeps the Feast" voor het Odyssey Television Network, en daarna ging hij met pensioen. Datzelfde jaar speelde hij in de film Grumpier Old Men.