Migcampista, s’inicià com a professional el 1978 en el primer equip del Colònia. El 1980 fitxà pel FC Barcelona, equip del qual es convertí en líder i capità i on aconseguí una Recopa d’Europa (1982), el Campionat de Lliga (1985), tres Copes del Rei (1981, 1983 i 1988), dues Copes de la Lliga (1983, 1986) i una Supercopa d’Espanya (1984). Després de passar una temporada inactiu (1986-87) per desavinences amb el president Josep Lluís Núñez, reaparegué en la següent (1987-88). En total disputà 295 partits amb el FC Barcelona i marcà 106 gols.
El 1988 fitxà pel Real Madrid, amb el qual guanyà dos Campionats de Lliga (1989 i 1990) i la Copa del Rei del 1989. Des del 1990 jugà successivament amb l’Atlético de Madrid (1990-93), amb el qual guanyà dues Copes (1991 i 1992), el Bayern Leverkusen (1993-96) i l’UNAM Pumas de Mèxic (1996-97).
Amb Alemanya guanyà una Eurocopa (1980). Fou 21 vegades internacional i marcà 4 gols. Obtingué una Pilota d’Argent (1980) i dues de Bronze (1981, 1985).
El 1997 inicià la trajectòria com a entrenador en el Fortuna de Colònia (1997-98), i posteriorment ha entrenat el Colònia (1998-99), el Xeres CD (2001-03), el Shakhtar Donetsk d’Ucraïna (2003-04), el Llevant (2004-05), el Getafe (2005-07), el Real Madrid (2007-08), amb el qual guanyà la Lliga i la Supercopa el 2008, el Besiktas turc (2010-11), el Màlaga (2013-14) i, des del 2018, l’equip xinès Dalian Yifang. Ha estat comentarista esportiu radiofònic.