Es matriculà a la Hochschule für Musik de Breslau, on estudià flauta, direcció i composició. El 1938 inicià la seva carrera com a solista al mateix temps que començà a fer classes al Mozarteum de Salzburg. El 1941 fou contractat com a membre de l’orquestra de l’Òpera de Munic. Acabada la guerra, fou professor de la Nordwestdeutsche Akademie de Detmold fins el 1953. A partir del 1950 començà a actuar regularment fora d’Alemanya. El 1953 fundà l’Orquestra Pro Arte a Munic, amb la qual feu gires arreu del món. També fundà el Festival de Pasqua de Lorda, que dirigí durant vint anys, i fou director convidat en nombrosos cors, festivals i orquestres simfòniques. Enregistrà nombroses obres, particularment de J.S. Bach i d’altres compositors barrocs. Destaquen especialment els Sis Concerts de Brandenburg, L’ofrena musical i el Magníficat. Entre els premis i distincions que rebé destaquen diversos Grand Prix du Disque, els premis Orphée i Edison, la Creu Federal del mèrit de 1a classe d’Alemanya i el títol de comanador de l’orde de les Arts i les Lletres de França. Fou membre de l’Académie des Sciences, Arts et Belles Lettres d’Ais de Provença.