Es formà musicalment a Bonn i Munic. En el temps que passà en aquesta darrera ciutat coincidí amb R. Strauss, que feu possible la seva participació en el Festival de Bayreuth, primer com a assistent (1892) i després, el 1902, com a director del cor. El 1903 començà a exercir la docència a Munic, on tingué Wilhelm Furtwängler entre els seus deixebles. L’any 1908 fou nomenat director musical de l’Òpera de Stuttgart, activitat que abandonà en fer-se càrrec, el 1919, de l’Òpera de Berlín, que dirigí fins el 1925. Posteriorment dugué a terme diverses gires que el portaren per Europa i Amèrica. Les seves obres, molt influïdes per Wagner, obtingueren un èxit que no li sobrevisqué, i actualment és recordat com a mestre de W. Furtwängler, tot i haver estat un dels directors d’orquestra més importants del seu temps, especialment en el camp operístic.