Fou un dels grans directors que, com H. von Bülow, F. Mottl, G. Mahler o R. Strauss, marcaren la fi del Romanticisme i l’inici del segle XX. De procedència moraviana, tingué una formació austríaca, com era usual en molts músics de la zona. A partir del 1866 estudià violí i composició al Conservatori de Viena, tasca que compaginà, des del 1871, amb la de violinista en l’orquestra de la cort, sota la direcció de músics com R. Wagner, F. Liszt, J. Brahms i A. Bruckner, entre d’altres. El 1878 ocupà el lloc de segon director a l’Òpera de Leipzig i el 1889 acceptà la direcció de l’Orquestra Simfònica de Boston. El 1893 tornà a Europa, com a director de l’Òpera de Budapest. Dos anys més tard li foren encomanades les direccions de l’Orquestra de la Gewandhaus de Leipzig i de l’Orquestra Filharmònica de Berlín, càrrecs que ocupà fins a la seva mort. Feu nombroses gires per Europa i Amèrica. El 1901 dirigí a Barcelona una memorable sèrie de concerts amb la Filharmònica de Berlín. Les seves lectures romàntiques de R. Schumann, J. Brahms, A. Bruckner o P.I. Cajkovskij esdevingueren referents importants. També contribuí a la difusió de les obres dels joves compositors del seu temps. Influí poderosament en el director alemany W. Furtwängler.