Smiths eerste roman White Teeth kwam in 1997 in de uitgeverswereld terecht, voordat het voltooid was. Uitgevers zagen een deel van het manuscript en er begon een veiling voor de rechten. Hamish Hamilton won. Smith voltooide White Teeth tijdens haar laatste jaar in Cambridge. Het werd gepubliceerd in 2000. De roman werd onmiddellijk een bestseller. Het werd internationaal geprezen en won prijzen, waaronder: de James Tait Black Memorial Prize, en de Betty Trask Award. De roman werd in 2002 bewerkt voor televisie. Smith was writer-in-residence aan het ICA in Londen en publiceerde later als redacteur een bloemlezing van seksueel getinte teksten, Piece of Flesh.
In interviews meldde Smith dat ze door alle aandacht voor haar eerste roman even last had van een writer's block. Maar haar tweede roman, The Autograph Man, verscheen in 2002 en was een commercieel succes. Critici vonden het minder goed dan White Teeth.
Na de publicatie van The Autograph Man bezocht Smith de Verenigde Staten als Fellow van het Radcliffe Institute for Advanced Study aan de Harvard University.
Smiths derde roman, On Beauty, verscheen in september 2005. Het verhaal speelt zich voornamelijk af in en rond Greater Boston. Het kreeg betere recensies dan The Autograph Man: het stond op de shortlist voor de Man Booker Prize en won in 2006 de Orange Prize for Fiction en de Anisfield-Wolf Book Award.
Ook in 2005 publiceerde Smith Martha en Hanwell. Dit boek combineert twee korte verhalen over twee getroebleerde personages. De verhalen waren eerst gepubliceerd in Granta en The New Yorker. Penguin publiceerde Martha and Hanwell met een nieuwe inleiding van de auteur als onderdeel van hun pocketreeks ter gelegenheid van hun 70ste verjaardag. Het eerste verhaal, "Martha, Martha", gaat over Smiths bekende thema's ras en postkoloniale identiteit. "Hanwell in Hell" gaat over een man in moeilijkheden die de dood van zijn vrouw probeert te begrijpen. In december 2008 was ze gastredacteur van het BBC Radio 4 Today programma.
Nadat hij fictie had gedoceerd aan de Columbia University School of the Arts, trad Smith in 2010 in dienst bij de New York University als vaste hoogleraar fictie.
Smith's roman NW werd gepubliceerd in 2012. Het verhaal speelt zich af in de wijk Kilburn in het noordwesten van Londen. De titel komt dan ook van de plaatselijke postcode, NW6. NW stond op de shortlist van de Ondaatje Prize van de Royal Society of Literature en de Women's Prize for Fiction. NW werd verwerkt tot een BBC televisiefilm, geregisseerd door Saul Dibb en bewerkt door Rachel Bennette. Starring Nikki Amuka-Bird en Phoebe Fox, het werd uitgezonden op BBC Two op 14 november 2016.
Smiths vijfde roman, Swing Time, verscheen in november 2016. Het werd voorgedragen voor de Man Booker Prize 2017.
Tussen maart en oktober 2011 was Smith de maandelijkse New Books-recensent voor Harper's Magazine. Ze schrijft vaak voor The New York Review of Books. In 2010 vroeg de krant The Guardian Smith naar haar "10 regels voor het schrijven van fictie".