Llicenciat en dret, treballà com a lletrat de les Corts i com a advocat. Fou membre fundador de la Federación Popular Democrática (1975-77), juntament amb el seu pare José María Gil-Robles, integrada en la Federació de la Democràcia Cristiana (1977-78). Més tard s’incorporà al Partido Demócrata Popular, i posteriorment passà a militar a Alianza Popular i al Partido Popular.
Fou eurodiputat pel Partido Popular (1987-2004) i, entre el gener del 1997 i el juny del 1999, president del Parlament Europeu. Presidí la Fundació Jean Monnet per Europa (2009-14).