Джон Марли родился 17 октября 1907 года в Нью-Йорке.
Окончил Американскую академию драматического искусства.
Первый успех пришел к Марли в 62-летнем возрасте, после картины Артура Хиллера «История любви». В 1972 году сыграл в фильме «Крёстный отец».
Скончался 22 мая 1984 года в Лос-Анджелесе после операции на сердце.