Ochs og "Mariandel" ankommer til et rendez-vous. Ochs forsøger at forføre den tilsyneladende villige tjenestepige, selvom han er foruroliget over hendes lighed med Octavian. Den skyldbetyngede baron fanger et glimt af Octavians medsammensvorne, da de dukker frem fra hemmelige døre. En kvinde (Annina i forklædning) skynder sig ind og hævder, at Ochs er hendes mand og far til hendes børn, som alle hastigt råber "Papa! Papa!" Forvirringen vokser, og politiet ankommer, og for at undgå en skandale hævder Ochs, at "Mariandel" er hans forlovede Sophie. Octavian afslører intrigen for politiinspektøren, og han spiller med. I mellemtiden forsøger Ochs uden held at markere sin status, samtidig med at han erklærer, at "Mariandel" er under hans beskyttelse. Rasende over at være blevet blandet ind i skandalen ankommer Faninal, og han sender bud efter Sophie, så hun kan rense deres navn. Sophie ankommer, og beder Ochs om at gå. Ochs er helt omtåget og flov, da marskalinden ankommer. Politiinspektøren genkender hende, da han tidligere har gjort tjeneste under hendes mand. Marskalinden sender politiet og alle de andre væk. Ochs forsøger stadig at få Sophie for sig selv, selv efter at han har indset sandheden om marskalinden og Octavians/Mariandels forhold, og han forsøger endog at afpresse marskalinden, men beordres til at gå med værdigheden i behold. Ochs redder, hvad der er tilbage af hans værdighed og går til sidst, mens han forfølges af kreditorer.
Musik