Es formà com a violinista i director d’orquestra al conservatori de la seva ciutat natal. El 1955 fou contractat per a dirigir l’Orquestra Filharmònica de la Ràdio Neerlandesa —com a principal director entre el 1957 i el 1961— i el 1961 fou el director més jove de l’Orquestra del Concertgebouw d’Amsterdam, de la qual fou titular en 1963-88. Posteriorment estigué al capdavant de la Filharmònica de Londres —com a principal director entre el 1967 i el 1979 i com a president a partir del 1990—, de la Jove Orquestra de la Unió Europea, des del 1994, i de l’Orquestra Simfònica de Boston —com a principal director convidat— des del 1995. Dirigí arreu del món al capdavant de les orquestres més destacades, com la Filharmònica de Berlín, la Filharmònica de Viena —que dirigí el 1998 durant una gira al Japó—, l’Orquestra de la Staatskapelle de Dresden (2002-04) o la Simfònica de Chicago (2006-10), i obtingué diversos guardons. Fou director musical del festival de Glyndenbourne (1978-88) i de la Royal Opera House (1987-2002). Encapçalà nombrosos enregistraments simfònics i operístics i destacà sobretot en la interpretació del repertori romàntic. El 1999 dirigí a l’Auditori de Barcelona obres de R. Strauss en el marc del cicle Ibercamera, al capdavant de l’Orquestra Simfònica de Londres.