Родился 8 марта 1926 года в небольшом горнодобывающем лагере Агилас (Мурсия, Испания), где работал его отец. Мать его была владелицей маленького завода. Когда мальчику было шесть лет, вспыхнула гражданская война, и семья перебралась в Мадрид. Там Франсиско подрабатывал уличным продавцом, затем работал на шоколадной фабрике, а после устроился электриком на киностудию "Chamartín". Именно здесь началась его актёрская карьера, сначала он играл в массовке, небольшие второстепенные роли.
В 1947 году по совету Дамасо Алонсо, Рабаль начал работать в театре. Выступал под своим полным именем, хотя близкие люди всегда звали его Пако (уменьшительное от Франсиско), и «Пако Рабаль» стало его неофициальным сценическим именем.
В 1950 году Рабаль сотрудничал с Хосе Тамайо, и вскоре он встретился с Асунсьон Балагер, которая впоследствии стала его женой и верной спутницей до конца жизни.
Одной из великолепных работ актёра стала роль в итальянской интерпретации произведения Артура Миллера «Смерть продавца».
Крутой поворот в жизни актёра связан со встречей с Луисом Бунюэлем, одним из самых известных итальянских режиссёров. Они стали большими друзьями, частично из-за того, что одинаково смотрели на жизнь. «Назарин» и «Виридиана» — это картины, ярко характеризующие тот период в творчестве Франсиско Рабаля. Рабаль работал в Испании, Италии, Мексике и Франции с такими режиссёрами, как Педро Альмодовар, Карлос Саура, Микеланджело Антониони, Лина Вертмюллер, Валерио Дзурлини, Альберто Латтуада, Артуро Рипштейн, Леопольдо Торре Нильссон, Жак Риветт, Клод Шаброль.
Уильям Фридкин хотел пригласить Рабаля на роль Алена Шарнье в фильме «Французский связной», но никак не мог вспомнить имя «того испанского актёра». Его ассистент по ошибке пригласил другого испанского актёра, Фернандо Рея, вместе с которым Рабаль неоднократно снимался. Фридкин, узнав, что Рабаль не владеет английским или французским, утвердил на роль Рея. Впоследствии Рабаль снимался у Фридкина в гораздо менее успешном, но ставшем культовым «Колдуне» (1977), ремейке шедевра Анри-Жоржа Клузо «Плата за страх».
Считается, что лучшие свои роли Рабаль сыграл после смерти Франсиско Франко в 1975: «Святые невинные» (1984, приз за лучшую мужскую роль на МКФ в Каннах), «Кому отдаст голос сеньор Кайо» (1988) (обе картины сняты по романам Мигеля Делибеса), телесериал «Тростник». За роль Франсиско Гойи в фильме Сауры «Гойя в Бордо» Рабаль удостоился премии «Гойя» как лучший актёр. К сожалению, в последствии его стали отождествлять именно с этой ролью.
29 августа 2001 года возвращаясь с 25-го монреальского кинофестиваля, на борту самолёта актёру внезапно стало плохо. Давление в воздухе обострило его хронический бронхит, и Рабаль был не в состоянии справится с приступом компенсаторной эмфиземы. Самолёт был вынужден сделать посадку в Бордо (Франция) однако, спасти актёра так и не удалось. Удивляет то, что и Франсиско Гойя умер именно в Бордо.
Один из последних фильмов с его участием, «Дагон», имеет перед начальными титрами посвящение: «Фильм посвящается Франсиско Рабалю, прекрасному актёру и ещё лучшему человеку».
Франсиско Рабаль издал несколько книг, а в 1994 году вышел сборник его стихов. Его дочь, Тереза Рабаль, успешно совмещает работу актрисы, певицы и телеведущей, а сын Бенито, избрал для себя профессию режиссёра.
Рабаль — единственный испанский актёр, получивший степень почётного доктора от Университета Мурсии.