Estudià violí al Conservatori de Viena i el 1956 ingressà en l’Orquestra Filharmònica de la mateixa ciutat, en la qual fou violí solista. Dos anys més tard fundà el Weller Quartet (1958-69). A partir del 1966 començà a estudiar direcció d’orquestra amb Karl Böhm i Horst Stein.
El 1968 debutà com a director amb l’Orquestra Filharmònica de Viena i poc després començà a dirigir a l’Òpera de Viena. El 1973 actuà al capdavant de l’Orquestra Simfònica de Londres a la capital britànica. El 1988, també a Londres, dirigí la primera interpretació de la reconstrucció feta per Barry Douglas de l’únic moviment conservat de la Simfonia núm. 10 de L. van Beethoven, que també enregistrà. De la seva discografia com a director, molt extensa, destaquen totes les simfonies de S. Prokof’ev i S. Rakhmaninov. Del 1987 al 1991 fou el principal director convidat de l’Orquestra Nacional d’Espanya. També fou director titular de la Royal Scottish National Orchestra (1991-96) i director musical de l'Orquestra Simfònica de Basilea (1994-97) i de l'Orquestra Nacional de Bèlgica (2007-12).