Петти решил начать музыкальную карьеру после посещения им шоу Эда Салливана, где он впервые увидел выступление группы The Beatles (1964 год). По словам музыканта, событие изменило всю его жизнь.
Он и его группа The Heartbreakers появились на горизонте американской рок-музыки в 1976 году, когда был выпущен одноимённый альбом. Первый успех музыкант познал в Великобритании, где критики причислили его к «новой волне», тогда как сам Петти настаивал на том, что его творчество является логическим продолжением наследия The Byrds и The Rolling Stones.
Третий альбом его группы, «Damn the Torpedoes» (1979), дошёл до 2-го места в США и держался на 1-м месте в Великобритании до выхода легендарного «The Wall» от «Pink Floyd». В 1981 году в продажу поступил дуэт Петти со Стиви Никс из Fleetwood Mac — «Stop Draggin' My Heart Around». Музыкальные критики сравнивали Петти то с Бобом Диланом, то с Нилом Янгом, то с Брюсом Спрингстином. Однако совсем уж консерватором Петти считать нельзя: например, одним из первых рокеров он стал снимать музыкальные клипы на все свои синглы.
В 1987 году Петти записал несколько музыкальных композиций вместе со своим кумиром Бобом Диланом, а в следующем году они стали участниками супергруппы The Traveling Wilburys, которую создали Джордж Харрисон, Рой Орбисон и Джефф Линн. В 1989 году при поддержке The Heartbreakers и друзей из The Traveling Wilburys Петти выпустил первый сольный альбом — «Full Moon Fever» (3-е место в Billboard 200), главным хитом с которого стала песня «Free Fallin'» (7-е место в Billboard Hot 100).
В 1990-х годах Петти работал с модным продюсером Риком Рубином. Второй сольный альбом («Wildflowers») вышел в 1994, третий («Highway Companion») — 12 лет спустя. Все они пользовались успехом. В последнее время Петти известен своей критикой американского шоу-бизнеса. Причину кризиса рок-музыки он видит в коммерциализации радиостанций и в исчезновении независимых передающих сетей.
В 1997 году сыграл второстепенную роль мэра небольшого городка, фактически камео, в фильме Кевина Костнера «Почтальон». В фильме главный герой отмечает, что «в своё время он [Том Петти] был знаменит».
В начале 2014 года Петти объявил о выходе нового альбома. 29 июля 2014 года свет увидел Hypnotic Eye, 13-й студийный альбом Tom Petty and the Heartbreakers .