Первоначально Лев Александрович Поляков мечтал о карьере военного. Он учился в авиационном техникуме, а затем в Высшем военно-морском училище в Баку. Но занятия самодеятельностью и любовь к театру решили выбор в пользу актёрской профессии. Поляков поступает в Школу-студию МХАТ, и 2 года играет в БДТ.
В 1958 году он оканчивает ВГИК (мастерская Сергея Герасимова и Тамары Макаровой) и поступает в Театр-студию киноактёра.
В середине 1950-х Лев Поляков начинает активно сниматься в кино. Один из самых снимаемых киноактёров 60-70-х годов. Играл преимущественно офицеров (как советских, так и иностранных), следователей и чиновников, часто снимался у Леонида Гайдая. Самая знаменитая роль – Анисим Шатров («Тени исчезают в полдень»).
Наиболее заметные роли Полякова: Растягаев («Дело «пестрых»), Грузинов («Мичман Панин»), Николай Игнатьев («Две жизни»), Столбов («Коллеги»), отец Николай («О чём молчала тайга»), Зипунов («Крах»), Загладин («Адъютант его превосходительства»), капитан («Бриллиантовая рука»), Келлерман («Ватерлоо»).
Жена – актриса Театра-студии киноактёра Инна Выходцева. Сын Никита (род. в 1960 году) – переводчик, окончил институт Мориса Тереза.
Похоронен на Ваганьковском кладбище.