Estudià ciències polítiques i història a les universitats de Bonn i Ginebra, a l’Institut d’Hautes Études Internationales de Ginebra (1968-73) i a la Columbia University de Nova York (1971). El 1974 es doctorà en ciències polítiques, i exercí la docència i la recerca universitàries.
Des del 1990 presideix la Christlich-Demokratische Union (CDU) a la circumscripció d’Osnabrück, i fou president del Moviment Europeu de la Baixa Saxònia (1981-91) i d’Alemanya (1997-99). Des d’aquest any fins al 2009 fou membre de la presidència i de la mesa de la CDU d’Alemanya.
Diputat al Parlament Europeu des del 1979, fou vicepresident del Partit Popular Europeu (PPE) del 1994 al 1999 i des d’aquest any fins el 2007 fou president del grup parlamentari del Partit Popular Europeu i dels Demòcrates Europeus (PPE-DE) al Parlament Europeu. Al gener de 2007 fou escollit president del Parlament Europeu per al període 2007-09, succeint en el càrrec Josep Borrell i Fontelles . En acabar el seu mandat el rellevà en el càrrec Jerzy Buzek .
Ha rebut diversos reconeixements per la seva activitat política, entre els quals la Medalla Robert Schuman del grup PPE (1995). Des del 2009 és president de la Fundació Konrad Adenauer.