De Sovjet-Unie stuurde in 1952 voor het eerst atleten naar de Olympische Spelen. Ze stuurden sindsdien 18 simes naar de Spelen. Op zeven van de negen keer op de Olympische Zomerspelen stond het team op de eerste plaats in het totale aantal gewonnen medailles. Op de andere twee Spelen stond het team op de tweede plaats. Het team stond zeven keer op de eerste plaats in het aantal medailles en twee keer op de tweede plaats in negen keer dat ze teams naar de Olympische Winterspelen stuurden.
Het Olympisch Comité van de USSR werd opgericht op 21 april 1951. Het werd door het IOC aanvaard op 7 mei 1951.
De Olympische Zomerspelen van 1952 in Helsinki waren de eerste Olympische Spelen voor Sovjet-atleten. Op 20 juli 1952 werd de eerste Olympische gouden medaille voor het land gewonnen door Nina Romashkova in de vrouwendiscusworp. Romashkova vestigde het nieuwe Olympische record in het evenement. De Olympische Winterspelen van 1956 in Cortina d'Ampezzo waren de eerste Olympische Winterspelen voor de Sovjet-atleten. De eerste Olympische wintergouden medaille voor de Sovjet-Unie werd gewonnen door Ljoebov Kozyreva in het 10 km langlaufevenement voor vrouwen.
De USSR was het gastland voor de Olympische Zomerspelen van 1980 in Moskou. Deze Spelen werden geboycot door de Verenigde Staten en vele andere landen. Hierna leidde de USSR een boycot van de Spelen van 1984 in Los Angeles.
De USSR eindigde op 26 december 1991. Het Olympisch Comité van de USSR eindigde pas op 12 maart 1992.
In 1992 namen 12 van de 15 landen die deel uitmaakten van de Sovjet-Unie deel aan de Spelen als het Unified Team. Zij gebruikten de Olympische vlag tijdens de Spelen van Barcelona. Het Unified Team eindigde als eerste in het medailleklassement. Het Unified Team nam ook deel aan de Albertville Winterspelen eerder dit jaar. Slechts zeven van de twaalf landen namen deel. Zij eindigden tweede in het medaille-ranglijstje op die Spelen.