Cec des d’infant, estudià a l’Institut Nacional de Joves Cecs, a la capital francesa, i després ingressà al Conservatori de París amb M. Dupré, N. Gallon i P. Dukas i, privadament, fou alumne d’improvisació de Ch. Tournemire, al qual succeí com a organista de l’església de Santa Clotilde de París, on romangué més de quaranta anys. Impartí classes a l’Institut Nacional de Joves Cecs entre el 1930 i el 1968. Langlais fou un compositor molt prolífic, el seu catàleg consta de més de 250 números d’opus, on es troben peces de música sacra, com la Missa ’Salve Regina' i nombroses pàgines per a orgue, com 3 Poèmes évangéliques (1932) o Hommage à Frescobaldi (1951). En les seves composicions es fa patent la influència de la música gregoriana. Fou un gran intèrpret i improvisador a l’orgue, atributs pels quals és principalment recordat.