Llicenciat en dret per la Universidad Complutense l’any 1979, el 1981 obtingué plaça per oposició a l’Audiència Provincial de Màlaga, la qual dimití poc després per incorporar-se a l’assessoria jurídica d'Alianza Popular, partit del qual fou secretari general interí en 1986-87. Regidor a Madrid des del 1983, fou elegit diputat en les eleccions al Parlament de la Comunitat Autònoma de Madrid l’any 1987, any que fou senador de designació autonòmica.
Fou reelegit senador el 1989 i el 1993, i aquest darrer any en fou nomenat portaveu pel Grup Popular. L’any 1995 fou elegit president de la Comunitat Autònoma de Madrid, càrrec que revalidà el 1999, i el 2003 fou elegit alcalde de Madrid per majoria absoluta, càrrec que també revalidà el 2007. Al desembre del 2011 fou nomenat ministre de Justícia del Govern de Mariano Rajoy Brey sorgit de les eleccions del 20 de novembre d’aquell any. Entre les iniciatives de més repercussió del seu mandat, cal esmentar la reforma de la Llei de justícia universal, que deixà de fet sense efecte, la reforma del codi penal, la nova normativa de taxes judicials, que aixecà protestes de la judicatura per considerar que perjudicava els afectats econòmicament més vulnerables, o l’aforament immediat del rei Joan Carles després de la seva abdicació. S’implicà molt personalment en un projecte de llei de l'avortament que pel seu caràcter restrictiu aixecà discrepàncies fins i tot entre membres del seu propi partit, i que comportà la seva dimissió al setembre del 2014. Fou substituït en el càrrec per Rafael Catalá Polo.