В воспитании Анатолия, рано лишившегося отца, большую роль сыграли братья его матери — артисты И.М. Москвин и М.М. Тарханов.
В годы гражданской войны был сотрудником Реввоенсовета. В 1920 году поступил в Студию Вахтангова, которая в 1926 году была преобразована в Театр имени Вахтангова. Первая роль — Мудрец ("Принцесса Турандот" Гоцци, 1922).
Анатолий Горюнов обладал ярким комедийным дарованием. Жизнерадостностью, обаянием, юмором были проникнуты созданные им образы простых солдат и матросов — строителей нового общества.
Актёр был заведующим постановочной и литературной частью, а также заместителем художественного руководителя Театра имени Вахтангова.
Вёл педагогическую работу (с 1927 года — в училище при Театре имени Евг. Вахтангова, с 1931 года — в ГИТИСе).
В кино с 1921 года. Наиболее заметные роли — начальник бумажной фабрики Глинка в фильме "Три товарища" и инженер Карасик в спортивной комедии "Вратарь".
Женой Анатолия Горюнова была народная артистка РСФСР Вера Бендина (1900-1974). Их дети — Михаил Горюнов (род. 1932) и Анна Горюнова (род. 1933) — стали актёрами МХАТа. Зять Анатолия Горюнова — заслуженный артист РСФСР Александр Михайлов (1922-1992), известный по роли Саши Григорьева в фильме Владимира Венгерова "Два капитана" (1955).
Умер 10 июля 1951 года в Москве. Похоронен на Новодевичьем кладбище.