Estudià piano i direcció orquestral al conservatori de la seva ciutat natal fins el 1931. Entre el 1921 i el 1930 exercí com a pianista a l’Escola de Ballet de la mateixa ciutat. El 1931 fou nomenat segon director d’orquestra del Teatre Kirov, i l’any següent, primer director. El 1938 guanyà una oposició per a la plaça de director musical de l’Orquestra Filharmònica de Leningrad, amb la qual desenvolupà la seva carrera durant gairebé cinquanta anys i que convertí en una de les millors orquestres del món, aplaudida arreu al llarg de nombroses gires de concerts i d’enregistraments fonogràfics. Paral·lelament exercí la docència al Conservatori de Leningrad, des d’on impulsà la música del segle XX tot donant suport als compositors joves. Gran amic de D. Šostakovič, el 1943 li estrenà la Simfonia número 8 —que li fou dedicada— i posteriorment dirigí moltes obres simfòniques del mateix compositor. També dirigí abundant música del segle XX, d’autors com B. Bartók, A. Honegger, C. Debussy o S. Prokof’ev, i es dedicà així mateix a la música russa presoviètica, especialment de P.I. Cajkovskij.