Germà de Jehan i Marie-Claire Alain, en la seva joventut estudià orgue i piano, i es llicencià en literatura a la Sorbona. Més tard s’interessà per la composició i rebé classes d’O. Messiaen al Conservatori de París. Entre el 1950 i el 1964 fou director del Conservatori de Saint-Germain-en-Laye i el 1961, de nou a la capital francesa, dirigí l’escola de César Franck. A més de la seva faceta com a concertista i compositor exercí la crítica musical en el diari Le Figaro. Fou autor de diverses monografies, entre les quals destaquen els seus estudis sobre Bach i un manual d’harmonia.