В жилах Фэллона течет смесь ирландской и американской крови. Родился он в Кэмдене, штат Нью-Йорк, в семье ветерана войны во Вьетнаме Джеймса Томаса Фэллона-старшего. Его семья позже перебралась в Согертис, Нью-Йорк; отец получил работу в IBM в близлежащем Кингстоне. Будучи ребенком, Джимми вместе со своей сестрой Глорией показывал родителями избранные эпизоды из 'Субботним вечером в прямом эфире', которое те записывали для него на видеомагнитофон. Фэллон был настолько увлеченным поклонником шоу, что уже в колледже он устраивал чуть ли не праздник из еженедельного просмотра. Еще подростком он увлекался имитацией знаменитостей; первым его опытом было изображение Джеймса Кэгни. Также мальчик был очень неплох в музыке – на гитаре он играл с тринадцати лет. В дальнейшем в своих номерах он будет органично сплетать музыку и юмор.
Школу Фэллон окончил в 1992-ом; после этого он поступил в колледж Святой Розы в Олбани, Нью-Йорк. Сначала он собирался специализироваться на компьютерных науках, однако затем переключился на коммуникации – программирование и математика оказались ему 'не по зубам'. Джимми получил свой диплом бакалавра лишь 9-го мая 2009-го, после того, как продемонстрировал комиссии свое портфолио, с лихвой покрывающее требования специальности. После этого он в нескольких телешоу с гордостью демонстрировал свои документы.
За свой успех Фэллон благодарит кукольных троллей. Такую куклу он получил на выпускном в старших классах. Его мать услышала о великолепном соревновании в комедийном клубе 'Bananas' в Покипси. Фэллон выступил с небольшим 'стэнд-ап' номером, в котором рекламировал троллей; он изображал разных знаменитостей, рассуждающих об этих куклах. Он выиграл в соревновании и после колледжа отправился по стране с выступлениями. В Лос-Анджелесе он прошел курсы повышения квалификации вместе с командой 'Groundlings'.
Вскоре после этого Фэллон попал в художественный фильм 'План' ('The Scheme'), известный под названием 'The Entrepreneurs'. Была у него небольшая роль в фильме 'День отца' ('Father's Day'); его единственную реплику вырезали при монтаже, но на заднем плане в окончательной версии он все же был виден. В 1998-ом он сыграл во втором сезоне шоу 'Спин сити' эпизодическую роль продавца фотографий. К концу 1998-го Фэллон учился в 'Граундлинг Тиэтр' в Лос-Анджелесе; ему пришло приглашение на прослушивание в горячо любимое им скетч-шоу 'Субботним вечером в прямом эфире'. Фэллон изображал Джерри Сайнфелда, Френча Стюарта, Пэта О'Брайена, Криса Рока, Хиллари Суонк, Гильберта Готфрида и Адама Сэндлера. Большая часть этих номеров изрядно повеселила продюсера шоу Лорну Майклс. Фэллон также исполнил ряд музыкальных подражаний; с таким талантом его охотно приняли в шоу.
На сезон 1998-99 гг. Джимми вошел в команду в качестве приглашенной звезды; его повысили до полноправного члена команды летом 1999-го. Среди его 'фирменных номеров' были песенные пародии, которые он исполнял во время блока Колина Квинна; в дальнейшем он практически заменил его со своими выступлениями. В сезоне 2000-го он стал одним из ведущих новостного блока вместе с Тиной Фей. В 2004-ом Фэллон оставил шоу и направил свои стопы в кинематограф.
В 2002-ом Джимми выпустил комедийный альбом 'The Bathroom Wall'. В ревью журнала 'Rolling Stones' песни с него вознесли до небес, назвав 'второй по качеству пародией на Принса, со времен 'Дебры' Бека'. Альбом в целом, впрочем, подвергся жесткой критике и получил два балла по пятибалльной шкале. В 2003-ем он номинировался на 'Грэмми', как 'Лучший комедийный альбом'. В 2001-ом Фэллон вместе с Кирстен Данст вел церемонию вручения Кинематографических Наград MTV; в пародийном блоке 'Секс в Матрице' он исполнил роль Нео. В 2002-ом Фэллон вел аналогичную церемонию в одиночку; на сей раз его издевательствам подвергся ряд музыкальных клипов. В 2005-ом его вновь пригласили на роль ведущего и дали сыграть Энакина Скайуокера в пародии на 'Месть ситхов'.
В 2002-ом журнал 'People' назвал Фэллона одним из 'пятидесяти красивейших людей года'; юморист счел это высокой честью.
В 2006-ом Джимми сыграл главную роль в 'Спонтанное самовозгорание', известном рекламном ролике 'Pepsi', вместе с актрисой Паркер Поуси.
Джимми женат на коллеге Дрю Бэрримор, Нэнси Джавонен; брак был заключен 22-го декабря 2007-го.
В 2009-ом актер перенес лазерную хирургию на глазах; вся операция транслировалась через его видеодневник.