В 1990-х Симмонс начал сниматься на телевидении. Известность пришла к нему после ролей доктора Шкоды — полицейского психиатра, появившегося в сериале «Закон и порядок», и заключенного-неонациста в тюремной драме «Оз». Симмонс также снимался во всей серии фильмов о Человеке-Пауке, где исполнил роль Джеймсона.
Наконец, голосом Симмонса заговорил жёлтый M&M's из известной серии реклам о двух драже. Джон исполнял роль президента-антикоммуниста Акермана в видеоигре «Command & Conquer: Red Alert 3», основателя и президента Aperture Science Кэйва Джонсона в видеоигре Portal 2 и нескольких персонажей мультсериала «Симпсоны».