Estudià violí des de molt jove i fou alumne de J. Joachim a Berlín. El 1898 orientà la seva carrera cap a la musicologia. Es formà a les universitats de Berlín, Munic i Leipzig, centre aquest darrer on es doctorà amb una tesi sobre els primers concerts per a violí, estudi que posteriorment amplià i publicà com a Die Geschichte des Instrumental Konzerts bis auf die Gegenwart ('Història dels concerts instrumentals fins a l’actualitat', 1927). Entre els seus mestres tingué C. Stumpf, A. Sandberger i H. Kretzschmar. Participà en nombroses publicacions musicals i fou editor del "Neue Zeitschrift für Musik" (1903-05) i del "Bach-Jahrbuch" (1904-39). Fou professor d’història i estètica de la música a la Universitat (des del 1915) i al Conservatori de Leipzig (des del 1909), professor a la Universitat de Halle (des del 1920) i professor i catedràtic de musicologia a la de Berlín (1928-41). Presidí associacions com la Societat Händel i la Societat de la Música Alemanya. Centrà els seus esforços en la difusió de la música antiga, esforços que culminaren en Aufführungspraxis alter Musik ('Interpretació de la música antiga', Leipzig, 1931). La seva aportació musicològica destacà amb Geschichte der Musik in Beispielen ('Història de la música amb exemples', Leipzig, 1931). Fou el primer que qüestionà la teoria, generalment acceptada, segons la qual la música sacra s’interpretava a cappella fins al segle XVI.