Estudià dret i després, oposant-se als interessos de la seva família, música al conservatori de la seva ciutat natal. Més tard anà a Viena, on fou deixeble d’E. Mandyczewsky, antic amic de Brahms. Debutà a Graz el 1917 i quatre anys més tard Bruno Walter el reclamà a Munic, on començà a destacar. El 1923 era Kapellmeister a l’òpera de Munic.
Entre el 1931 i el 1954 fou director musical de diversos teatres d’òpera, com els d’Hamburg (1931), Dresden (1934) i Viena (1954). Dirigí sovint les orquestres filharmòniques de Berlín i de Viena. Fou present al polèmic Festival de Salzburg del 1938, poc abans de l’annexió alemanya. Acabada la Segona Guerra Mundial, fou vetat fins l’any 1947 per la seva vinculació amb el nacionalsocialisme. Després tornà a l’Òpera de Viena, amb la qual viatjà a Buenos Aires i Salzburg. A partir del 1962 començà les seves col·laboracions a Bayreuth, que culminaren entre el 1965 i el 1967 amb la direcció de L’anell del Nibelung.
Dirigí amb èxit a París i Nova York i enregistrà nombroses òperes i pàgines simfonicocorals. Fou un autèntic especialista i intèrpret de referència de les composicions de Mozart i Richard Strauss, del qual estrenà les òperes La dona silenciosa (1935) i Daphne (1938).