Debutà en la literatura amb una sèrie d’obres de teatre. Seguint la moda de la seva època es dedicà després a la novel·la històrica i començà a publicar les primeres novel·les curtes: Mateo Falcone (1829), Le vase étrusque (1830), Tamago (1829), que constitueixen la part més original de la seva obra. Fou amic d’Eugenia de Montijo i de Stendhal. Escriví també Colomba (1840) i Carmen (1845), potser el que té de millor la seva producció. Bé que romàntic d’inspiració, l’art i l’estil de Mérimée són els d’un clàssic.
Les seves històries han atret compositors molt diferents. Giuseppe Verdi s’inspirà en Les âmes du purgatoire -obra teatral, variació del mite de don Joan (1834)- per a algunes escenes de La forza del destino, i la novel·la Carmen (1825) és l’origen de l’òpera homònima de G. Bizet. Altres òperes basades en obres de Merimée són La Périchole, de Jacques Offenbach -sobre el sainet Le Carrosse du Saint-Sacrement (1829)-, Mateo Falcone, de Heinrich Zollner (1893) i també de Cezar’ K’ui (1907), i La fidanzata corsa, de Giovanni Pacini, basada en el relat Colomba (1840).