Estudià al conservatori de la seva ciutat natal i l’any 1880 obtingué un segon premi de piano. Set anys després fou contractat per Charles Lamoureux per a dirigir els cantants en l’estrena a França del Lohengrin wagnerià. El 1895 fundà el Trio Chevillard-Hayot-Salmon, amb el qual començà una intensa carrera com a instrumentista especialitzat en música de cambra. El 1897 encetà la seva trajectòria davant de l’orquestra de Charles Lamoureux, que dirigí fins l’any de la seva mort. A partir del 1907 inicià la seva tasca pedagògica al Conservatori de París, i set anys més tard fou nomenat director de l’orquestra de l’Òpera de la capital francesa.