De film gaat over een familie genaamd Banks die in het
Londen van 1910 wonen. De familieleden zijn George Banks - een serieuze man die in de
bank werkt, Winifred Banks - een voorvechtster van de rechten van de vrouw (iemand of iets dat in actie is) en hun kinderen Jane en Michael.
George Banks is druk met zijn bankwerk, terwijl Winifred druk is met haar activiteiten voor de rechten van de vrouw. Beiden besteden bijna nooit tijd aan hun kinderen, maar brengen ze onder bij verschillende kindermeisjes. Wanneer een van de kindermeisjes, Katie, ontslag neemt, gaat Mr. Banks op zoek naar een ander kindermeisje. s Nachts schrijven de kinderen hun vader een brief waarin ze beschrijven wat voor kindermeisje ze willen, maar hij verscheurt de brief en gooit hem in het vuur en schrijft voor zichzelf het soort kindermeisje dat hij wil, iemand die serieus en geregeld is.
Vele kindermeisjes komen naar het huis om als kindermeisje gekozen te worden, maar de sterke wind blaast ze allemaal weg. Op hetzelfde moment zien de kinderen die uit het raam kijken een vrouw hun huis binnenvliegen, haar naam is Mary Poppins en zij is het soort kindermeisje dat de kinderen zo graag wilden hebben. Met haar magie en liefde zorgt ze voor de kinderen en neemt ze hen mee naar bijzondere avonturen. In het begin is Mr. Banks niet blij met de manier waarop ze voor de kinderen zorgt, maar later in de film slaagt ze erin (is in staat om iets te doen, vooral iets moeilijks) om een band tussen hem en de kinderen te scheppen en maakt ze de familie Banks weer helemaal gelukkig.