Чувствуя, что способен на большее, в 1975 году 27-летний Хартман присоединился к группе комиков-импровизаторов 'The Groundlings'. Во время одного из их выступлений он просто поднялся на сцену и присоединился к актерам. Там Фил познакомился с артистом Полом Рубенсом (Paul Reubens), который позже прославился благодаря своему персонажу Пи-Ви Херману (Pee-wee Herman). Фил принимал участие в работе над образом Пи-Ви. Кроме того, Хартман играл капитана Карла (Captain Carl) в 'Шоу Пи-Ви Хермана' (The Pee-wee Herman Show) и вернулся к этой роли, когда снималась детская телепрограмма с этими же героями. В 50-х, после творческой ссоры, Хартман покинул шоу и занялся другими проектами.
Он был талантливым актером озвучивания. Голос Фила Хартмана звучит в мультфильмах 'Скуби и Скрэппи-Ду' (Scooby-Doo and Sc appy-Doo), 'Смурфы' (The Smurfs), 'Война Гоботов' (Challenge of the GoBots), 'Фантастический Макс' (Fantastic Max), 'Чудеса на виражах' (TaleSpin), 'Утиные истории' (DuckTales), 'Черный Плащ' (Darkwing Duck). С 1991 по 1998 год он работал над мультипликационным сериалом 'Симпсоны' (The Simpsons) и озвучил персонажа по имени Трой МакКлюр (Troy McClure), актера с неестественным влечением к рыбам, в 52 эпизодах. Также сильной стороной Хартмана было озвучивание рекламных роликов.
С 1978 по 1998 год Фил Хартман сыграл и озвучил более семи десятков ролей, но национальная слава пришла к нему тогда, когда ему предложили принять участие в съемках суперпопулярной музыкально-юмористической программы 'Субботним вечером в прямом эфире' (Saturday Night Live). За 10 лет, с 1985 по 1994 год, Хартман снялся в 152 эпизодах и создал огромное количество комических образов. Он предстал перед зрителями в облике 70 разных персонажей, среди которых были Фрэнк Синатра (Frank Sinatra), Рональд Рейган (Ronald Reagan), Барбара Буш (Barbara Bush), Фил Донахью (Phil Donahue) и Билл Клинтон (Bill Clinton). С 1995 по 1998 год Хартман был одной из главных звезд ситкома 'Новостное радио' (NewsRadio).
Хотя Хартман часто играл неприятных персонажей, все, кто его знал, отмечали, что он – удивительно приятный в общении, скромный, сдержанный и порядочный человек. Филу нравилось играть злодеев, потому что так он обнажал их смешные стороны и позволял зрителям увидеть их слабости. Актер обладал редким даром - он мог перевоплотиться в любого.
Фил был женат трижды. Первые два брака окончились разводами, и в 1987 году он женился снова, на бывшей модели Бринн Омдал (Brynn Omdahl), которая пыталась стать актрисой. Они познакомились на 'свидании вслепую' за год до свадьбы. Бринн родила двух детей, Шона (Sean Hartman) и Бирджен (Birgen Hartman). У семейной пары были определенные проблемы – ринн ревниво относилась к успеху мужа и компенсировала свою несостоятельность алкоголем и наркотиками, но ни одна из сторон не хотела разводиться. Хартман даже собирался отказаться от своей карьеры, чтобы сохранить брак. Он пытался найти подходящие для его жены роли, но она все чаще оказывалась в реабилитационных клиниках.
Вечером 27 мая 1998 года Бринн Хартман затеяла ссору с мужем, который пригрозил оставить ее, если она снова начнет употреблять наркотики. Когда он уснул, Бринн взяла пистолет и выстрелила в Фила три раза, дважды попав в голову. Она была пьяна и недавно приняла дозу кокаина. Полицию вызвал ее друг, Рон Дуглас (Ron Douglas), которому она позвонила и призналась в преступлении. Полицейские вывели из дома Дугласа и детей, а Бринн заперлась в спальне и покончила с собой, застрелившись. Нелепая гибель талантливого человека вызвала огромный шок у его коллег и друзей. Дети Фила воспитываются в семье сестры его жены