S’inicià musicalment amb el seu pare i més tard ingressà al Conservatori de Música de Leipzig (1877-80), on estudià orgue amb G. Albrecht, entre altres coses. Entre el 1882 i el 1890 fou professor titular del Conservatori de Música d’Hamburg, i del 1903 al 1908 en fou el director. El 1904 fou nomenat director de l’Orquestra Filharmònica d’Hamburg, càrrec que ocupà fins el 1908. El 1905 començà la seva carrera com a director als Estats Units. A partir d’aquell mateix any fou convidat regularment per a dirigir l’Orquestra Filharmònica de Nova York i en 1908-12 fou director titular de l’Orquestra Simfònica de Boston. Quan tornà a Alemanya (1916), rebé l’encàrrec de posar-se al capdavant de l’Orquestra Simfònica d’Essen, tasca que exercí fins el 1934. Passà els darrers anys de la seva vida a Suècia, on continuà dirigint fins a la seva mort.