Rabals Familie verließ die Region Murcia nach Ausbruch des Spanischen Bürgerkrieges. In Madrid musste der junge Rabal als Straßenverkäufer arbeiten und so den Unterhalt der Familie sichern. Nach seiner Schulzeit arbeitete er als Elektriker in spanischen Filmstudios. Er übernahm erste Statistenrollen und ging dann ans Theater, wo er auch Schauspielunterricht erhielt. Nach zahlreichen Filmen in Spanien gelang ihm der internationale Durchbruch 1959 mit dem mexikanischen Film Nazarín von Luis Buñuel. Mit Buñuel drehte er zwei Jahre später den Film Viridiana, der bei den Filmfestspielen von Cannes 1961 die Goldene Palme gewann. Neben zahlreichen filmisch interessanten Werken war Rabal auch immer wieder in Kommerzprodukten zu sehen.
Rabal spielte in über 200 Filmen. Er gewann zahlreiche nationale und internationale Filmpreise, darunter 1984, gemeinsam mit seinem Landsmann Alfredo Landa, den Darstellerpreis bei den Internationalen Filmfestspielen von Cannes 1984 für Mario Camus’ Sozialstudie Die heiligen Narren. Den wichtigsten spanischen Filmpreis Goya konnte er allerdings nur einmal am Ende seiner Karriere gewinnen. Er erhielt ihn im Jahr 2000 für Carlos SaurasGoya(Goya en Burdeos) und seine Darstellung des alten Francisco de Goya.
Rabal war verheiratet mit Asunción Balaguer. Aus dieser Ehe stammt seine Tochter Teresa, die ebenfalls Schauspielerin ist, und sein Sohn Benito, der als Regisseur tätig ist.
Im August2001 besuchte Rabal das Montreal Filmfestival in Kanada. Auf der Rückreise starb er an einem Lungenemphysem, als das Flugzeug auf dem Weg von London nach Madrid flog[2]. Nach anderen Angaben starb Rabal während des Fluges über Bordeaux.
