Com a futbolista, ocupà la posició de defensa lliure i es distingí per un extraordinari sentit posicional en el camp. Fou 103 vegades internacional i del 1970 al 1977 fou el capità de la selecció de la República Federal d’Alemanya, amb la qual assolí la Copa del Món (1974) i la Copa d’Europa de Nacions (1972). Amb el Bayern de Munic, club en el qual jugà del 1958 al 1977, guanyà tres vegades la Copa d’Europa de clubs (1974, 1975 i 1976) i una vegada (1976) la Copa Intercontinental, i a la RFA fou campió de Copa en 1966, 1967, 1969 i 1971, i de Lliga en 1969, 1972, 1973 i 1974. El 1972 i el 1976 rebé la Pilota d’Or com a millor futbolista europeu. El 1977 fitxà pel Cosmos de Nova York, amb el qual jugà fins el 1980, que tornà a Alemanya, i on el 1982 aconseguí el cinquè títol de Lliga amb el Hamburger SV.
Com a seleccionador de la RFA (1984-90) guanyà la Copa del Món el 1990. Aquest any entrenà quatre mesos l’Olympique de Marsella, i posteriorment el Bayern de Munic (1993-96), amb el qual guanyà el campionat de Lliga el 1994 i la Copa de la UEFA el 1996. President d’aquest club del 1994 al 2002, entre el 1998 i el 2010 ocupà una vicepresidència de la Federació Alemanya de Futbol. En aquest càrrec presidí el comitè alemany de la Copa del Món de futbol del 2006, que guanyà la candidatura per a la celebració de la competició. El 2009 esdevingué president honorífic del Bayern de Munic.