Es graduà en dret a la universitat de Munic (1957), d’on fou professor, i posteriorment també a les universitats Lliure de Berlín, Espira i Tübingen. El 1970 ingressà a la CDU, que presidí en 1979-83. En 1973-78 fou diputat pel land de Renània-Palatinat al Bundestag, i de 1978 a 1983 ministre de l’interior del land de Baden-Württemberg. Al maig del 1994 fou elegit president d’Alemanya tot substituint en el càrrec Richard von Weizsäcker i es convertí en el primer president de la República Federal d’Alemanya elegit pels representants dels 16 länder de l'Alemanya reunificada. En aquest càrrec, demanà públicament perdó per la Nit dels vidres trencats, pel bombardeig de Gernika i per la massacre dels Herero a l'antiga Àfrica del Sud-Oest (actual Namíbia). Fou president fins al maig de 1999, que fou succeït pel socialdemòcrata Johannes Rau. Rebé nombroses distincions.