L’any 1789 fou nomenat capità de la Guàrdia Nacional, en la qual creà el cos de músics. Amb la intenció de donar una formació adequada als músics militars, establí una escola per a instrumentistes de vent, que es transformà en l’Institut Nacional de Música el 1793. Dos anys més tard, l’Institut esdevingué Conservatori Nacional. Sarrette en fou el director fins el 1816, any en què la dimissió que ja havia presentat en diferents ocasions li fou finalment acceptada.