Estudià dret, però el 1840 ja havia escrit algunes fantasies sobre motius operístics, cançons i peces per a piano. El 1853 compongué una òpera (Mitjanit), i deu anys més tard escriví la segona -Judith -, que obtingué un gran èxit. Compongué després Rogneda (1865), basada en un drama històric de l’època de Vladimir el Gran. Aquesta fou l’òpera de més èxit a Rússia durant les dues dècades següents i proporcionà al seu autor una pensió del tsar. La situació econòmica favorable li permeté refusar, el 1865, la invitació de formar part del Conservatori de Moscou. Compongué encara dos títols més: Nit de Nadal (1866, només un projecte) i Poder hostil (1871, inacabada a la seva mort). Malgrat que no usà la tècnica del leitmotif, s’hi aprecia un especial domini dels temes melòdics identificatius, però no a la manera de R. Wagner sinó, més aviat, com G. Verdi o G. Meyerbeer. La seva predilecció per les masses corals i l’ús de melodies populars suggereixen una influència directa sobre els compositors operístics contemporanis (M. Musorgskij, P.I. Cajkovskij, N. Rimskij-Korsakov, A. Borodin). De la mateixa manera se li reconeix una gran habilitat en la instrumentació i els efectes. Com a crític i erudit musical, Serov s’enemistà amb M. Balakirev i A. Rubinstein, però mostrà decidida simpatia per altres músics, com ara Franz Liszt. Gràcies a la seva trobada amb Wagner a Alemanya (1858), es convertí en el primer crític rus que valorà les obres del compositor alemany.