Родился 10 мая 1944 года в Шорвуде, штат Висконсин, США.
После учебы в университете штата Висконсин Джим был частным сыщиком. Вместе с друзьями детства — братьями Джерри и Девидом Цукерами в 1969 он организовал пародийную группу «Kentucky Fried». Долгое время они гастролировали по Америке, а в 1977 сняли имевшую коммерческий успех ленту «Солянка по-кентуккийски», состоявшую из коротких скетчей и большой новеллы «За пригоршню йен», где с помощью словесных каламбуров высмеивались разные телепередачи и кино жанры. С еще большим успехом в прокате они спародировали фильмы катастроф в следующей картине «Аэроплан».
Комедии «Совершенно секретно» и «Голый пистолет» высмеивали штампы шпионских и полицейских лент. В 1986 была снята совместная ироническая криминальная мелодрама «Безжалостные люди».
После распада режиссерского трио, хотя Абрахамс по-прежнему был исполнительным продюсером картин «Голый пистолет 2 1/2» и «Голый пистолет 33 1/3», он самостоятельно ставил комедии более традиционного плана –«Большой бизнес» и «Добро пожаловать домой, Рокси Кармайкл». Выступил исполнительным продюсером ленты Джона Уотерса «Плакса».
Затем Абрахамс опять возвращается к пародийному жанру в комедиях и создает «Горячие головы» и «Горячие головы. Часть вторая», в которых пародийно процитировал десятки фильмов, глумясь над знаменитыми классическими эпизодами и кино штампами. Менее удачным стал фильм «Мафия Джейн Остин» — пародия на гангстерские фильмы, прежде всего «Крестного отца».
В 1997 году Джим Абрахамс создает телевизионный фильм «Первое. Не навреди». Аспекты этой истории отражают собственный опыт отношений Джима Абрахамса с его сыном Чарли.
В 2006 году написал сценарий к фильму «Очень страшное кино 4».