Estudià música i alhora assistí a l’Escola de Marina. El 1861 passà a formar part del Grup dels Cinc. Abandonà l’exèrcit després d’escriure la primera simfonia (1865) i esdevingué catedràtic de composició del conservatori de Peterburg (1871), càrrec que l’allunyà de Mussorgskij. Dirigí (1874-81) els concerts de l’Escola Lliure de Música i des del 1883 fou sotsdirector de la capella imperial. Actuà per Europa com a director d’orquestra i alhora estrenà a Rússia òperes com La nit de maig (1880), Sneguročka (‘La noia de neu’, 1882), Sadko (1898), Mozart i Salieri (1898), Tsar Saltan (1900), La ciutat invisible de Kitež (1907; a Barcelona, on fou molt popular, el 1926) i El gall d’or (1909), estrenada després de la seva mort. Destituït del conservatori per simpaties revolucionàries, morí poc després.
Les seves obres orquestrals més conegudes són el Caprici espanyol (1887), Schéhérazade (1888), sovint emprada com a ballet, La gran pasqua russa (1888) i les tres simfonies. Orquestrà òperes de Mussorgskij i Borodin i publicà obres didàctiques.