Començà a estudiar piano amb el seu pare, el pianista i compositor François-Joseph Hérold, i a l’edat de set anys ja havia fet les seves primeres composicions. El 1806 entrà al Conservatori de París, on estudià amb L. Adam (piano), R. Kreutzer (violí), C.S. Catel (harmonia) i E. Méhul (composició). El 1812 interpretà el seu Concert per a piano al Théâtre Italien, i guanyà el Premi de Roma amb la cantata La duchesse de La Vallière. La seva estada a Roma s’escurçà per raons de salut, i es traslladà a Nàpols, on compongué la primera òpera, La gioventù di Enrico V (1815). De tornada a París viatjà per Àustria, on entrà en contacte amb A. Salieri i J.N. Hummel. Treballà com a maestro al cembalo al Théâtre Italien (1821-24), càrrec que deixà per a ocupar el lloc de director del cor de l’Òpera. Tot i que compongué nombrosa música orquestral, Hérold ha passat a la història com un dels compositors més importants d'opéra-comique del segle XIX, especialment gràcies a les últimes òperes, Zampa (1831) i Le pré aux clercs (1832), en les quals sovint utilitzà recursos propis de la grand opéra.