Es formà musicalment amb el seu pare, organista i director de cor, i més tard a la Kreuzschule de Dresden (1862-67), on fou alumne de J. Otto. Estudià musicologia a la Universitat de Leipzig (1868-71) amb O. Paul, F. Ritschl i W. Voigt, i al conservatori de la mateixa ciutat (1869-70), amb E.F. Richter i C. Reinecke. Desenvolupà diferents tasques en nombroses institucions, conservatoris i universitats alemanys. Fundador de la nova Societat Bach, fou editor general de la publicació "Monuments de la música alemanya" (1912-18). És el musicòleg alemany més important, després de H. Riemann. Considerà la història de la música com a part de la història de la cultura i estudià les interaccions de l’obra d’art amb el seu entorn social i cultural.