Fou ambaixador a Washington fins que el 1987 tornà a Àustria per ocupar el càrrec de secretari general del ministre d’afers estrangers. Membre del Partit Popular, al maig del 1992 es convertí en president federal en substitució de Kurt Waldheim —que decidí no tornar a presentar-se acusat d’activitats pronazis durant la Segona Guerra Mundial— en guanyar les eleccions enfront del socialdemòcrata Rudolf Streicher. El 1998 fou reelegit per a un segon mandat, i morí un dia abans de finalitzar-lo. El 1999 bloquejà l’entrada de l’ultradretà Partit de la Llibertat de Jörg Haider en el govern austríac sorgit de les eleccions d’aquest any.