Membre de les Joventuts Hitlerianes en l’adolescència, el 1943 abandonà els estudis de dret a la Universitat de Munic per allistar-se a la Wehrmacht i evitar ser destinat a les SS. Combaté al front italià, on fou ferit. El 1946 reprengué els estudis de dret, i es graduà el 1948 per la Universitat de Marburg. Doctorat el 1950, treballà per als serveis jurídics del land de Baviera. El 1950 ingressà al Partit Socialdemòcrata (SPD). Alcalde de Munic (1960-72), obtingué una gran popularitat en aquest càrrec, i transformà a fons la ciutat per als Jocs Olímpics del 1972. Aquest any encapçalà la candidatura socialdemòcrata a Baviera, però fou derrotat per la CSU. Poc després assumí en la cancelleria de Willy Brandt el Ministeri d’Obres Públiques, que ocupà fins el 1974, quan Helmut Schmidt el destinà al Ministeri de Justícia, càrrec on romangué fins el 1981. Entre el gener i el juny d’aquest any fou alcalde de Berlín. Cap de l’oposició al Bundestag (1983-91), del 1987 al 1991 presidí l’SPD. Representant de l’ala més inclusiva i conciliadora de l’SPD, amb altres membres d’aquest partit fundà l’organització Gegen Vergessen-Für Demokratie (‘Contra l’oblit- Per la democràcia’) l’any 1993. Des de la seva fundació (2001) fou membre del Consell Ètic Alemany, organització independent d’experts sobre els reptes ètics i legals que plantegen els avenços biomèdics i les noves tecnologies (TIC).