En el discurs inaugural dels nous locals de la Schola, el 2 de novembre de 1901, el seu director, V. d’Indy, la redefiní com a "escola de música adaptada a les necessitats modernes". Situat al costat de la capella del Val de Grâce, l’edifici de la Schola Cantorum està impregnat d’història: fou convent de benedictins anglesos, que acollí les despulles del rei Jaume II d’Anglaterra (1701); Benjamin Franklin hi redactà el preàmbul de la constitució dels Estats Units; i durant la Revolució Francesa esdevingué presó, abans de convertir-se en marc i escenari de la renovació musical francesa impulsada per V. d’Indy durant el primer terç del segle XX, tant en el camp de la composició i la interpretació (especialment orgue i piano) com en la revaloració i divulgació de la música antiga i contemporània, mitjançant concerts i edicions musicals.
Entre els professors, alumnes o concertistes que participaren de la vida de la Schola cal esmentar Isaac Albéniz, Albert Roussel, Erik Satie, Déodorat de Séverac, Arthur Honegger, Georges Auric, Edgar Varèse, Olivier Messiaen, Wanda Landowska, Blanca Selva (que creà escola pianística a Barcelona i formà duo amb el violinista català Joan Massià), Louis Vierne, Alexandre Guilmant, Joaquín Turina, Jacques Thibaud, Eugène Ysaÿe i els catalans Ricard Viñes, Joaquim Nin, Joan Gibert i Camins i, més tard, Joan Guinjoan.
A la mort de V. d’Indy (1931), la Schola Cantorum sofrí una greu crisi: els fidels al fundador se n’apartaren i fundaren l’Escola César Franck, que mantingué una vida i una influència limitades fins que s’extingí l’any 1994. Després de la Segona Guerra Mundial, la Schola Cantorum reprengué les seves activitats amb nou vigor sota la direcció de Daniel Lesur (1957-62) i Jacques Chailley (1962-81), però posteriorment inicià una davallada que l’hauria dut a la total desaparició si no hagués estat per l’acció del nou director, Michel Denis (setembre del 1993), el qual situà de nou aquesta venerable institució al capdavant de les grans escoles privades de música d’Europa. Coincidint amb el centenari de la seva fundació, la Schola inicià una total reestructuració amb obertura internacional. En aquest sentit, cal esmentar la memorable celebració dels darrers cursos de direcció d’orquestra de Sergiu Celibidache i la integració dels cursos d’estiu, amb la col·laboració de les institucions americanes French Piano Institut i European American Musical (cursos d’harmonia, contrapunt, anàlisi i composició a càrrec del compositor català Narcís Bonet, envoltat d’un grup de professors americans, antics deixebles seus, i de professors convidats com David Diamond i Lukas Foss).