Estudià música a Berlín, on fou deixeble de J. Kwast i de H. Pfitzner. El 1906 debutà al Neues Theater de la mateixa ciutat amb una producció d'Orfeu als inferns, amb direcció escènica de M. Reinhardt. Un any més tard, i per recomanació de G. Mahler, fou contractat com a director coral del Teatre Alemany de Praga, on dirigí fins el 1910. Posteriorment treballà a Hamburg (1910-12), Barmen (1913-14), Estrasburg (1914-17), Colònia (1917-24) i Wiesbaden (1924-27). Divulgà les obres de compositors alemanys del principi del segle XX, com ara A. Schönberg, K. Weill o P. Hindemith. En 1933-39 dirigí l’Orquestra Filharmònica de Los Angeles i després tornà a Europa, on del 1947 al 1950 dirigí a l’Òpera de Budapest. Considerat un dels directors orquestrals més importants del segle XX, durant el període 1951-72 desenvolupà la seva tasca com a director de l’Orquestra Filharmònica a Londres, amb la qual realitzà nombrosos enregistraments. Debutà al Covent Garden el 1961 amb Fidelio, i posteriorment hi dirigí La flauta màgica i Lohengrin (1963). Com a compositor, és autor de diverses simfonies, nou quartets de corda i l’òpera Das Ziel ('L’objectiu'), escrita el 1915 i estrenada en versió de concert el 1931.