Родился 8 марта 1930 года, в Москве.
С 1946 по 1950 годы работал фотографом в типографии газеты «Правда».
В 1950 году был призван на службу в армию, служил на флоте в Кронштадте. Петь начал на службе.
В 1956 году окончил музыкальное училище при Ленинградской консерватории им. Римского-Корсакова и был приглашен в театр Эстрады на отделение музыкальных ансамблей на должность артиста-вокалиста.
В 1958 году актер был принят в театральную труппу Ленинградского театра музыкальной комедии, где проработал всю свою жизнь.
В кино Альфред Аркадьевич начал сниматься с 1969 года. Впервые на телеэкранах советский зритель увидел творчество Шаргородского в фильме-спектакле «Королевская ложа». Артист тогда исполнил роль Премьер-министра. Всего у легендарного актера более десятка ролей в кино и бесчисленные театральные выступления.
Последней работой Шаргородского А. А. стала сыгранная им роль в фильме 2000 года - «Империя под ударом». К сожалению, до сегодняшних дней талантливый актер не дожил. Но его творчество навсегда останется в памяти народа.
Ушёл из жизни 25 октября, 2005 года в Санкт-Петербурге.