Estudià composició a Viena amb A. Schönberg i A. Webern, i direcció d’orquestra amb R. Strauss, F. Weingartner i C. Krauss. Després d’unes primeres experiències dirigint a Stuttgart, Hamburg i Berlín durant la primera meitat de la dècada del 1930, el 1937 fou nomenat director de l’Òpera de Zuric, càrrec en el qual es mantingué fins el 1940, que passà a dirigir el Festival de Salzburg durant quatre anys. Del 1944 al 1946 dirigí l’Òpera de Cracòvia, en 1947-50 la de Graz i des del 1957 fins a la seva mort fou titular de la Staatsoper de Viena. Durant el període 1957-59 estigué al capdavant de la Royal Scottish National Orchestra de Glasgow, càrrec que abandonà per dirigir l’Orquestra Simfònica de Viena. Impartí classes de direcció a la Wiener Musikhochschule, i entre els seus deixebles tingué C. Abbado, Z. Mehta i J. López-Cobos. Assolí un gran prestigi com a mestre de directors i com a intèrpret privilegiat de l’obra dels seus mestres, encara que la seva activitat el portà també a excel·lir en el gran repertori simfònic i operístic romàntic i postromàntic.