Estudià al Conservatorio di San Onofrio, a Nàpols. La seva primera obra coneguda és una òpera sacra titulada L’opera d’amore (1702). El 1703 optà a la plaça de mestre de capella de la cort napolitana, tot competint públicament amb Gaetano Veneziano, Cristoforo Caresana i Francesco Mancini. Veneziano obtingué el càrrec, però Sarro fou nomenat vicemestre de capella un any més tard, el 1704. El 1737 fou designat mestre de capella de la cort en substitució de Mancini, que ocupava el lloc des del 1725. Sarro fou un prolífic compositor d’òperes, oratoris i serenates, que, majoritàriament, s’estrenaren a Nàpols. Entre el 1718 i el 1741 escriví un considerable nombre d’òperes, les primeres de les quals constitueixen la seva aportació més important a la història del gènere. Entre elles destaca Didone abbandonata, ja que fou el primer llibret important del cèlebre P. Metastasio. Les primeres obres de Sarro estan escrites en un estil barroc semblant al d’A. Scarlatti pel que fa al contrapunt, tot i que li manca l’energia de les millors obres del cèlebre compositor. Sarro ocupa una posició intermèdia en l’evolució de l’estil napolità, entre Scarlatti i altres autors de la generació següent com N. Porpora, L. Vinci i L. Leo.