Debutà en la literatura amb una sèrie d’obres de teatre. Seguint la moda de la seva època es dedicà després a la novel·la històrica i començà a publicar les primeres novel·les curtes: Mateo Falcone (1829), Le vase étrusque (1830), Tamago (1829), que constitueixen la part més original de la seva obra. Fou amic d’Eugenia de Montijo i de Stendhal. Escriví també Colomba (1840) i Carmen (1845), potser el que té de millor la seva producció. Bé que romàntic d’inspiració, l’art i l’estil de Mérimée són els d’un clàssic.
Les seves històries han atret compositors molt diferents. Giuseppe Verdi s’inspirà en Les âmes du purgatoire —obra teatral, variació del mite de don Joan (1834)— per a algunes escenes de La forza del destino, i la novel·la Carmen (1825) és l’origen de l’òpera homònima de G. Bizet. Altres òperes basades en obres de Merimée són La Périchole, de Jacques Offenbach —sobre el sainet Le Carrosse du Saint-Sacrement (1829), inspirada en els amors de Manuel d’Amat virrei del Perú—, Mateo Falcone, de Heinrich Zollner (1893) i també de Cezar’ K’ui (1907), i La fidanzata corsa, de Giovanni Pacini, basada en el relat Colomba (1840).