Свою карьеру она начала как учитель ораторского искусства и лишь в 1925 году, в возрасте тридцати трех лет, дебютировала на сцене театра "Олд Вик" в Лондоне. В кино она начала появляться в середине 1930-х годов. Разерфорд в основном снималась в комедиях. В 1945 году Маргарет вышла замуж за актера Стрингера Дэвиса, с которым позже снялась вместе во многих фильмах.
В 1961 году Разерфорд было присвоено звание Офицера Британской империи, а в 1967 году она получила повышение до ранга кавалерственной дамы.
В том же 1961 году Маргарет исполнила роль мисс Марпл в фильме «Убийство, сказала она» по роману Агаты Кристи «В 4.50 из Паддингтона». После чего она сыграла её ещё в четырех фильмах, базирующихся на романах Агаты Кристи, имевших зрительский успех. Эти фильмы носили комедийный характер, а мисс Марпл в исполнении Разерфорд была энергичной, боевой женщиной, чем разительно отличалась от персонажа в оригинальных произведениях. По этой причине Кристи не была в восторге от игры Разерфорд, однако посвятила ей свой роман «И, треснув, зеркало звенит…», вышедший в 1963 году.
В 1963 году Маргарет стала обладательницей премий «Оскар» и «Золотой глобус» за исполнение роли герцогини Брайтонской в фильме «Очень важные персоны», где главные роли исполнили Элизабет Тейлор и Ричард Бертон. У нее также была примечательная роль в фильме «Фальстаф» (1965), где она сыграла госпожу Квикли. Этот роль так понравилась королеве Елизавете II, что она присвоила Маргарет дворянское звание.
Последние годы своей жизни Маргарет страдала от болезни Альцгеймера. Она скончалась от пневмонии 22 мая 1972 года в небольшой деревне Калфонт-Сант-Питер в графстве Бакингемшир и была похоронена на кладбище при церкви Св. Джеймса в Джеррадс-Кросс. Её муж, Стригер Дэвис, умер спустя полтора года и был похоронен рядом с ней.