Когда от Бэнксов уходит няня Кэти, присматривавшая за четырьмя детьми, в дом вместе с восточным ветром неожиданно прилетает молодая няня Мэри Поппинс. Миссис Бэнкс с радостью берёт её на работу, а старшие дети, Джейн и Майкл, поначалу относятся к ней с недоверием, потому что она кажется им строгой и неприступной.
Однако вскоре с детьми начинают происходить удивительные истории, к которым Мэри Поппинс имеет прямое отношение, хотя она сама в этом никогда не признаётся. Более того, она всячески пресекает попытки детей вслух связать происходящие с ними чудеса с её участием. В свой выходной день Мэри встречается со своим знакомым Бертом (по прозвищу Спичечник), который рисует на асфальте картины. Вместе с Бертом она входит в одну из этих картин и попадает в волшебную страну, где они пьют чай и катаются на карусели. Джейн и Майкл идут с Мэри Поппинс в гости к её дяде, мистеру Паррику, и пьют с ним чай под потолком, вися прямо в воздухе, — потому что день рождения мистера Паррика пришёлся на пятницу, а в такие дни он всегда ощущает «необычайную лёгкость» и парит над землёй.
Эдуард, собачка соседки Бэнксов — мисс Ларк, сбегает из дома и о чём-то переговаривается с Мэри Поппинс, в результате чего дети узнают, что она понимает язык животных. За окном Майкл однажды замечает идущую куда-то рыжую корову, и Мэри Поппинс рассказывает детям историю про то, как когда-то на рог этой корове с неба упала звезда, и корова принялась танцевать без остановки. Когда звезду сняли, танцы прекратились. Однако с тех пор корова ходит по свету в поисках новой падающей звезды.
Как-то раз, когда у Майкла с утра портится настроение, и он плохо себя ведёт, Мэри Поппинс показывает ему и другим детям волшебный компас, который переносит человека туда, куда показывает стрелка. Няня и дети посещают эскимосов на севере, негров в Африке, китайского мандарина на востоке и племя индейцев на западе. В другой раз они идут в необычный кондитерский магазин, где покупают имбирные пряники с блестящими бумажными звёздочками и знакомятся с миссис Корри и её дочерьми Фанни и Анни (которые выглядят гигантами по сравнению с миссис Корри).
Ночью Майкл и Джейн видят, как миссис Корри и Мэри Поппинс приклеивают звёздочки от их пряников на небо. А однажды Майклу и Джейн удаётся побывать на дне рождения Мэри Поппинс, который празднуется в зоопарке. Там их няню приветствуют все звери, а Повелительница Джунглей, старая Кобра, дарит ей одну из своих шкур. Давней знакомой Мэри оказывается и девочка-звезда Майя из созвездия Плеяд, которая вместе с детьми делает рождественские покупки.
В первый день весны, когда начинает дуть западный ветер, Мэри Поппинс неожиданно улетает из дома Бэнксов, подарив Майклу свой компас и оставив Джейн в подарок свой портрет, нарисованный Бертом. Дети очень огорчены, но на записке Мэри Поппинс написаны слова «Au revoir», и это даёт им надежду на новую встречу с их любимой няней.
