Llicenciat en dret, fou elegit regidor de la seva ciutat natal el 1987 i el 1991 alcalde pel Partido Popular. El 1995 substituí Alberto Ruiz-Gallardón com a portaveu del PP al Senat. Estret col·laborador de José María Aznar López, el 1996 el substituí com a coordinador del partit, càrrec que exercí fins el 1999. Posteriorment fou ministre d’administracions públiques (gener del 1999 - març del 2000), ministre de justícia (març del 2000 - juliol del 2002) i ministre de l’interior (juliol del 2002 fins el 2004). En aquest càrrec intensificà la pressió policial contra ETA i el seu entorn i al final del seu mandat tingué una actuació especialment polèmica en la gestió de la informació arran dels atemptats de l’ onze de març de 2004. Nomenat secretari general del PP el 2004, al maig del 2008 anuncià la decisió de no optar a la confirmació del càrrec en el congrés del partit del mes següent. El 2011 renuncià al Congrés de diputats i poc després fou nomenat vocal del consell d'administració i president de la comissió d'auditoria del Banc financer i d'estalvis (SAREB de Bankia) fins l'abril del 2012, que passà a ser conseller extern del consell d'administració de l'elèctrica Iberdrola. Al maig del 2017 fou processat com a membre del consell d'administració de Bankia amb motiu de la sortida a borsa d'aquesta entitat, cas del qual fou absolt juntament amb altres directius al setembre del 2020.