Inicià els estudis d’orgue a cinc anys amb el seu pare, un pastor luterà. Prosseguí la seva formació musical amb Eugen Münch, que l’introduí en el coneixement de la música de Bach. Estudià teologia, filosofia i medicina a les universitats d’Estrasburg i Tübingen. Perfeccionà els estudis d’orgue amb Charles Widor a París. Wagner, a més de Bach, fou un dels seus ídols de joventut. El 1896, a Bayreuth, establí una gran amistat amb Cosima i Sigfried Wagner, sobre els quals escriví en alguna publicació. Dedicà molts anys a l’estudi de la interpretació de Bach, del qual publicà l’obra completa per a orgue a Nova York a partir del 1912. Dedicà també diversos estudis a orgueners francesos i alemanys, i patrocinà la construcció de nous orgues. El 1912 dirigí la Passió segons Sant Mateu, de J.S. Bach, al Palau de la Música Catalana, a Barcelona. Doctor en medicina (1911), el 1913 s’establí al Gabon, on fundà un hospital que subvencionava amb conferències i concerts -alguns amb Pau Casals- a Europa. Aquesta activitat no l’allunyà de la música, que tingué un paper important en les seves reflexions filosòfiques. El 1952 li fou atorgat el premi Nobel de la pau. És considerat un dels grans intèrprets de l’obra de Bach, amb una visió d’arrels encara romàntiques de la qual són testimoni diversos enregistraments discogràfics.