Rebé la seva primera formació musical del seu pare, que era constructor d’orgues i organista a l’església de San Francesc a Lió, lloc que ell mateix ocupà fins el 1860. Continuà els estudis al Conservatori de Brussel·les amb J.N. Lemmens (orgue) -per mitjà del qual entrà en contacte amb la tradició germànica de la interpretació de J.S. Bach- i F.J. Fétis (composició). El 1870 substituí L. Lefébure-Wély com a organista de Saint-Sulpice, a París, càrrec que exercí fins el 1934. L’any 1890 obtingué la plaça de professor d’orgue que C. Franck havia deixat vacant al Conservatori de París, i posteriorment hi ensenyà contrapunt, fuga i composició. Entre els seus alumnes cal esmentar H. Libert, L. Vierne, C. Tournemire, M. Dupré i A. Schweitzer. Com a concertista fou apreciat per les seves interpretacions de Bach i per les seves improvisacions. Tot i que compongué obres per a l’escena de cert èxit (el ballet La korriage, del 1880, o l’òpera Les pêcheurs de SaintJean, estrenada el 1905), les obres que més s’han mantingut en el repertori són les que dedicà a l’orgue, d’una manera molt especial les 10 simfonies.