Akte 1
Acte I speelt zich af in de slaapkamer van de Marschallin. De Marschallin is een aristocratische dame van 32 jaar. Ze heeft een minnaar, een jongen van 17, Octavianus genaamd. Als de opera begint, horen we eerst een orkestrale proloog. De muziek suggereert dat de Marschallin en Octavianus de liefde bedrijven. Dan gaat het doek open en zien we de twee samen. Ze horen een geluid en de Marschallin denkt dat haar man eraan komt, dus verstopt Octavian zich. Het is niet haar man, maar haar neef Baron Ochs. Ochs is een zeer onbeleefde man met slechte manieren. Hij marcheert de kamer van de markies binnen, hoewel de bedienden hem hadden gevraagd te wachten. Octavianus slaagt erin zich om te kleden en verschijnt verkleed als een dienstmeisje, Mariandel genaamd. Ochs vindt "haar" mooi en wil "haar" aan hem voorstellen. Dan vertelt hij de Marschallin waarvoor hij gekomen is: hij wil een jonge ridder om de zilveren roos aan zijn bruid Sophie te bezorgen. Hij heeft ook een notaris nodig om de wettelijke documenten van het huwelijk te tekenen. Ochs zingt over het plezier van de liefde bedrijven. Hij zou willen dat hij als Jupiter was, die zich op vele manieren kon vermommen.
De ochtend levée begint. Dat betekent: de ceremonie van het opstaan van de Marschallin. Verschillende mensen komen binnen. Onder hen: een Italiaanse tenor die een aria zingt, twee Italianen genaamd Valzacchi en Annina, die altijd roddels verspreiden, en een notaris. Als de notaris tegen Ochs zegt dat hij zijn bruid een bruidsschat moet betalen en niet andersom, is Ochs erg boos.
Als de Marschallin alleen achterblijft zingt ze een lied over hoe ze haar jeugdige uiterlijk aan het verliezen is. Octavianus komt terug en vrolijkt haar een beetje op, maar ze is verdrietig als hij heel beleefd en formeel afscheid neemt en haar niet eens kust. De Marschallin stuurt haar kleine zwarte pageboy om hem achterna te rennen met de zilveren roos.
akte 2
Het verhaal gaat verder in de grote kamer van het huis van Herr von Faninal, de vader van Sophie met wie Ochs wil trouwen. Sophie wacht op de komst van de zilveren roos (de conventie van die tijd zegt dat haar vader er niet bij mag zijn). Octavianus komt binnen en geeft haar de roos. De muziek op dit moment is erg mooi en erg bekend. De mensen in de zaal praten met elkaar, en dan komt baron Ochs brutaal binnen. Sophie is geschokt door zijn slechte manieren. Ochs neuriet zijn favoriete wals en gaat dan naar de volgende kamer om een huwelijkscontract te tekenen. Sophie zakt in Octavian's armen. Als Ochs terugkomt, vertelt Octavian hem dat Sophie hem niet wil, maar Ochs wil niet luisteren. Uiteindelijk pakt Ochs zijn zwaard en begint te vechten met Octavianus, die Ochs licht verwondt. Ochs is woedend, maar kalmeert een beetje nadat hij wat wijn heeft gekregen.
Octavianus is verliefd geworden op Sophie, en Sophie op hem. Hij wil Valzacchi en Annina gebruiken om hem met een plan te helpen. Hij schrijft een briefje aan Ochs, dat zogenaamd van het dienstmeisje Mariandel afkomstig is, waarin hij hem vraagt haar te ontmoeten. Hij laat Annina het briefje naar Ochs brengen, die opgetogen is als hij het leest. Hij zingt zijn favoriete wals.
akte 3
Het decor is een herberg in de buurt van Wenen. Valzacchi en Annina werken nu zowel voor Octavianus als voor Ochs. Ze werken liever voor Octavianus omdat hij hen meer betaalt. Ze plannen listen tegen Ochs.
Ochs ontmoet Mariandel (Octavianus weer verkleed als de dienstmeid). Hij probeert "haar" dronken te voeren, maar "zij" zingt verlegen "Nein, nein! i' trink kein Wein." ("Nee, nee, ik drink geen wijn"). Ochs vindt dat "ze" op Octavianus lijkt. Dan verschijnen er vreemde mensenfiguren bij een raam. Dan komt Annina binnen en zegt dat zij de vrouw van Ochs is, die hij verlaten heeft. Dan komen er kinderen binnen die zeggen dat Ochs hun vader is. Ochs is erg in verlegenheid gebracht als Faninal binnenkomt en zegt dat Mariandel zijn verloofde is. Hij vertelt de mensen dat hij Faninal nog nooit heeft gezien. Dan verschijnt de Marschallin en ook de politie. De avond is een ramp voor Ochs. De Marschallin zegt tegen de politie dat het maar een grap is. Ze stuurt Ochs weg.
De Marschallin, Sophie en Octavian zingen een prachtig trio (met gebruikmaking van een deel van de muziek van het lied "Nein, nein, i' trink kein Wein"). Octavianus is vergeven. Hij wordt alleen gelaten met Sophie en zij zingen samen een duet en gaan dan hand in hand weg. Zij heeft een zakdoek op de grond laten liggen. De kleine zwarte page boy raapt hem op en rent achter hen aan.