Estudià dret i després, oposant-se als interessos de la seva família, música al conservatori de la seva ciutat natal. Més tard anà a Viena, on fou deixeble d’Eusebius Mandyczewsky, antic amic de Brahms. Debutà a Graz el 1917 i quatre anys més tard Bruno Walter el reclamà a Munic, on començà a destacar. Entre el 1931 i el 1945 fou director musical de diversos teatres d’òpera, com els d’Hamburg, Dresden i Viena, i també fou present al polèmic Festival de Salzburg del 1938, poc abans de l’annexió alemanya. Acabada la Segona Guerra Mundial, fou vetat fins l’any 1947 per la seva vinculació amb el nacionalsocialisme. Després tornà a l’Òpera de Viena, amb la qual viatjà a Buenos Aires i Salzburg. A partir del 1962 començà les seves col·laboracions a Bayreuth, que culminaren entre el 1965 i el 1967 amb la direcció de L’anell del Nibelung. Dirigí amb èxit a París i Nova York i enregistrà nombroses òperes i pàgines simfonicocorals. Ha estat un intèrpret de referència de composicions de Mozart i Richard Strauss, dels quals autors s’erigí com a autèntic especialista.