De família d’alts funcionaris i militars que comandaren accions bèl·liques al Marroc, és besnet del general i governador de Melilla Juan García y Margallo, que dirigí les forces espanyoles en la primera guerra del Rif (1893-94), anomenada també guerra de Margallo, contra les cabiles de la zona entorn de l’enclavament. Llicenciat en dret per la Universitat de Deusto (1965), màster per la Universitat de Harvard (1972) i doctor per la Universitat Miguel Hernández d’Alacant (2002).
Especialitzat en dret fiscal, l’any 1968 fou nomenat inspector de finances. El 1977 fou elegit per primer cop diputat a les Corts Constituents per la Unión de Centro Democrático. Posteriorment en el govern d’Adolfo Suárez ocupà els càrrecs de rector general de Desenvolupament Comunitari del Ministeri de Cultura (1977-79) i president de la Comissió de Peticions del Congrés (1979-82). Després de la dissolució d’UCD (1983), el 1986 fou diputat per València de la coalició Alianza Popular-Partido Demócrata Popular-Unión Liberal i, en trencar-se, passà al grup mixt.
L’any 1989 s’integrà al Partido Popular, i per aquest partit fou portaveu d’economia i hisenda al Congrés dels Diputats fins el 1994, que fou elegit diputat al Parlament Europeu. Integrat al Partit Popular Europeu, fou vicepresident de la Subcomissió d’Afers Monetaris (1994-99) i de la Comissió d’Afers Econòmics i Monetaris (1999-2011). El desembre del 2011 abandonà l’escó d’eurodiputat en ser nomenat ministre d’Afers Estrangers en el govern presidit per Mariano Rajoy sorgit de les eleccions generals del 20 de novembre d’aquest any. Ocupà aquest càrrec del desembre del 2015 fins al novembre del 2016, que fou substituït per Alfonso Dastis en el nou govern de Mariano Rajoy, i el mateix mes fou nomenat president de la comissió mixta de seguretat nacional. El maig del 2019 renuncià a l’escó al Congrés per ocupar l’acta de diputat al Parlament Europeu.
Com a ministre d’Afers Estrangers, mantingué una bel·ligerància molt explícita contra el sobiranisme català en els fòrums internacionals, intentant en tot moment obstaculitzar o interferir en l’acció diplomàtica de la Generalitat de Catalunya. Observà també una política de confrontació en la qüestió de Gibraltar que generà incomoditat en les relacions d’Espanya amb la Gran Bretanya. Manifestà així mateix una clara hostilitat contra el règim chavista de Veneçuela presidit per Nicolás Maduro i maldà per reforçar la imatge internacional espanyola amb la campanya institucional Marca España. Durant el seu mandat impulsà diverses lleis d’acció exterior. Ja rellevat al capdavant d’Afers Estrangers, ha esdevingut una de les poques veus crítiques del seu partit amb la resposta del govern de Rajoy al secessionisme català.
Ha rebut la Gran Creu del mèrit civil (1982) i l’orde del Mèrit Constitucional (1983). És autor de diversos llibres sobre finances públiques, sobre política espanyola i sobre la Unió Europea (Una reforma fiscal para España, 1996; La apuesta europea. De la moneda a la unión política, 1998; Apuesta por España, 2008; Europa y el porvenir. Cómo preservar y fortalecer el modelo europeo de bienestar, 2016). L’any 2020 publicà unas Memorias heterodoxas.