Родился в еврейской семье. Окончил колледж, работал актёром, сценаристом. В 1939 снял первый фильм — фильм ужасов «Возвращение доктора Икс».
В 1950-х годах творческая деятельность Шермана в кино была приостановлена из-за объявленной сенатором Джозефом Маккарти «охоты на ведьм». Из кинокомпаний выгоняли из-за антикоммунистической истерии, во многом принявшей форму антисемитских гонений, ведь Шерман не был членом левых организаций. Шерман был вынужден уйти работать на телевидение, где снимал телесериалы.