S’inicià a Graz amb W.A. Remy i, després d’una etapa a Leipzig, el 1883 fou deixeble de F. Liszt a Weimar. El 1884, quan ja havia estrenat diverses obres pròpies, entre les quals l’òpera Sakuntala, començà a exercir de director suplent a l’Òpera de Königsberg. L’any següent fou contractat a Danzig per dues temporades, i més tard dirigí a Hamburg i Mannheim, fins que, finalment, el 1891 fou nomenat director de l’Òpera de Berlín i dels concerts reials.
El 1898 dimití el seu càrrec a l’Òpera de Berlín, però continuà amb els concerts fins el 1907. El 1908 substituí G. Mahler a l’Òpera de Viena, però hi renunciá el 1911, si bé seguí al capdavant dels concerts de la Filharmònica de la ciutat fins el 1927. Entre 1912 i 1919 dirigí a les òperes d’Hamburg i Darmstadt, fins que s’incorporà a la Volksoper de Viena (1919-24).
L’any 1927 s’instal·là a Basilea, on dirigí el Conservatori fins al 1935. El 1934 fou cridat de nou per dirigir l’Òpera de Viena, tasca que hagué d’abandonar arran de l’annexió d’Àustria al Tercer Reich. Com a convidat, actuà al capdavant de les orquestres més importants d’Europa.
Composà música de cambra, set simfonies, vuit òperes, lieder amb orquestra i poemes simfònics.
Cal destacar també els seus assajos sobre la direcció de les simfonies clàssiques, en particular les de Beethoven, i revisà l'edició de les obres completes d'H. Berlioz, així com la partitura de L'holandès errant, de R. Wagner. Del 1927 al 1935 va ser director del Conservatori de Basilea, on va realitzar una tasca pedagògica de primer ordre.