S’inicià a Graz amb W.A. Remy i, després d’una etapa a Leipzig, el 1883 fou deixeble de F. Liszt a Weimar. El 1884, quan ja havia estrenat diverses obres pròpies, començà a exercir de director suplent a l’Òpera de Königsberg. L’any següent fou contractat a Danzig per dues temporades, i més tard dirigí a Hamburg i Mannheim, fins que, finalment, el 1891 fou nomenat director de l’Òpera de Berlín i dels concerts reials. El 1898 dimití el seu càrrec a l’Òpera, però continuà amb els concerts fins el 1907. El 1908 substituí G. Mahler a l’Òpera de Viena, però hi renunciá el 1911, si bé seguí al capdavant dels concerts de la Filharmònica de la ciutat fins el 1927. En 1912-19 dirigí a les òperes d’Hamburg i Darmstadt, fins que s’incorporà a la Volksoper de Viena (1919-24). L’any 1927 s’instal·là a Basilea, on dirigí el Conservatori, i el 1934 fou cridat de nou per dirigir l’Òpera de Viena, tasca que hagué d’abandonar arran de l’annexió d’Àustria al Tercer Reich. Com a convidat, actuà al capdavant de les orquestres més importants d’Europa.