Estudià a la Musikhochschule de Dresden, i debutà el 1935 a l’Òpera de Leipzig, on fou contractat com a repetidor. Especialitzat en la direcció operística, el 1942 ingressà, també com a repetidor, en l’Òpera de Chemnitz, teatre del qual fou director musical en 1946-48. Després d’una breu estada a Weimar, del 1949 al 1952 dirigí a Dresden, abans de passar a la Staatsoper de Munic (1952-54) per a ocupar la plaça que G. Solti deixà vacant. El 1951 inaugurà la temporada operística a l’Òpera de Viena i inicià la seva projecció internacional. El 1953 es presentà al Covent Garden de Londres amb Arabella i Salome, escenari on tornà repetidament fins el 1974. També dirigí al Metropolitan de Nova York (hi debutà el 1954) i al Festival de Bayreuth, on actuà per primera vegada el 1960.