Germà d’Albert Fernández i Díaz, estudià enginyeria industrial. Delegat del Ministeri de Treball a Barcelona (1978-80) i governador civil d’Astúries (1980-81) i Barcelona (1981-82), ingressà al CDS d’Adolfo Suárez i, el mateix 1982, a Alianza Popular (des del 1989 Partido Popular), partit pel qual fou regidor a l’Ajuntament de Barcelona (1983-84), diputat al Parlament de Catalunya (1984-89), senador autonòmic i diputat al Parlament espanyol des del 1989 (reelegit en les eleccions generals dels anys 1993, 1996, 2000, 2004, 2008, 2011 i 2016).
Al llarg dels dos mandats de José María Aznar (1996-99 i 2000-04) fou respectivament secretari d’estat d’administracions territorials i secretari d’estat de relacions amb les Corts al Ministeri de la Presidència. Del 2004 al novembre del 2011 fou diputat a l’oposició. Després de les eleccions del dia 20 de novembre d’aquest any fou reelegit diputat com a cap de llista del Partido Popular per Barcelona. Al desembre d’aquest any fou designat ministre de l’Interior del govern presidit per Mariano Rajoy.
En aquest càrrec, la seva gestió esdevingué una de les més polèmiques del govern del PP, especialment per la duresa de les mesures aplicades amb relació a la immigració (barreres de Ceuta i Melilla, Centre d’Internament d’Estrangers a la Zona Franca de Barcelona), la bel·ligerància contra l’independentisme català i la nova llei de seguretat ciutadana (popularment coneguda com “llei mordassa”), considerada des de nombrosos sectors greument regressiva i de la qual dissenyà les directrius principals. Ministre de l’Interior en funcions des del desembre del 2015, el 22 de juny de 2016 protagonitzà un escàndol: quan faltaven quatre dies per a les eleccions generals, un diari filtrà una sèrie de converses seves amb el cap de l’Oficina Antifrau de Catalunya mantingudes l'octubre del 2014 en les quals s’avaluava la possibilitat d’implicar polítics independentistes en casos de corrupció reals o ficticis.
Reelegit diputat pel PP al Congrés en les eleccions del 20 de desembre de 2015 i 6 de juny de 2016, a l’octubre d’aquest any tots els partits de la cambra el reprovaren (amb l’excepció de PP i Ciutadans) per “les seves accions i actituds antidemocràtiques” i per “manca d’ètica política” amb relació a l’anomenada “Operació Catalunya”. No renovà el càrrec en el nou govern presidit per Mariano Rajoy el novembre del 2016, i fou substituït per Juan Ignacio Zoido. Designat aquest mes president de la comissió d’afers estrangers del Congrés, l’oposició forçà el govern a retirar-ne el nomenament i finalment fou designat president de la Comissió de Peticions.