Llicenciat en ciències químiques per la Universitat Complutense, es doctorà el 1978, i posteriorment fou professor de química orgànica en aquesta universitat, amb estades a les de Constança (Alemanya) i Montpeller. S’especialitzà en l’estudi dels mecanismes de reacció, sobre els quals publicà diversos treballs.
Membre del PSOE des del 1974, milità en la Federació Socialista Madrilenya. El 1997 fou elegit membre de l’executiva i secretari de comunicació del partit. L’any 2000 fou elegit membre del comitè federal. Fou diputat des del 1982 i ocupà successivament els càrrecs de director del Gabinet Tècnic de la Secretaria d’Estat d’Universitats i Investigació, director general d’Ensenyaments Universitaris (1985), secretari general d’Educació (1986), secretari d’estat d’Educació (1988), ministre d’Educació i Ciència (1992) i ministre de la Presidència del 1993 al 1996, any que el PSOE passà a l’oposició.
Amb el retorn del PSOE al govern el març del 2004, el president José Luis Rodríguez Zapatero el nomenà portaveu i president del grup parlamentari socialista del Congrés dels Diputats. L’abril del 2006, rellevà José Antonio Alonso com a ministre de l’Interior i des d’aquest càrrec gestionà la treva d’ETA fins al seu trencament. Després de les eleccions del març del 2008, Rodríguez Zapatero el confirmà al capdavant del ministeri, des del qual continuà l’assetjament d’ETA. En la remodelació del govern de l’octubre del 2010 fou nomenat vicepresident primer i portaveu de l’executiu en substitució de Maria Teresa Fernández de la Vega, alhora que conservava el càrrec a Interior. Des d’aquest ministeri continuà la tasca d’erosió d’ETA, que culminà amb la renúncia a l’activitat terrorista materialitzada en la treva indefinida del gener de 2011 que precedí la posterior residualització de l’organització en l’escenari polític del País Basc.
El juliol del 2011 dimití els càrrecs al govern per a ser nomenat candidat del PSOE a la presidència del govern espanyol en les eleccions generals del 20 de novembre, en les quals, tanmateix, fou derrotat. En el 38è congrés del PSOE celebrat el febrer del 2012 aconseguí la secretaria general del partit, després de disputar el càrrec amb Carme Chacón. Tot i trobar-se a l’oposició, tingué una participació essencial en l’abdicació del rei Joan Carles I d’Espanya el juny del 2014 i en la continuïtat de la monarquia. Aquest mateix mes anuncià la dimissió dels càrrecs, la retirada de la política i el retorn a la docència, i al juliol fou substituït a la secretaria general del PSOE per Pedro Sánchez. Tanmateix, continuà exercint una notable influència tant en les altes instàncies de l’Estat com en l’aparell del PSOE: hom li atribueix, entre d’altres, un suport explícit a l’estratègia de confrontació amb l’independentisme català i una participació substancial en la dimissió forçosa de Pedro Sánchez de la secretaria general del PSOE l’octubre del 2016. Fou condecorat amb la Gran Creu de l’orde de Carles III (1996) i la Gran Creu de l’orde civil d’Alfons X el Savi (1998).