Estudià al Conservatori de Moscou i fou solista de l’orquestra del Teatre Bol’šoj del 1929 al 1943. Rebé el primer premi en el Concurs de la Unió de Músics Soviètics celebrat a Moscou el 1933, fet que li permeté de començar una carrera de concertista. L’any 1940 formà un trio amb el violinista David Ojstrakh i el pianista Lev Oborin, amb els quals enregistrà el Triple concert de L. van Beethoven i diversos trios de F. Schubert. Ben aviat esdevingué un dels trios de cambra més famosos del món. Realitzaren gires per Àustria, Alemanya i Puerto Rico, on foren convidats al festival organitzat per Pau Casals, i compositors com l’ucraïnès R. Glière o l’armeni A. Khačaturjan els dedicaren diverses obres. Des del 1942 fins a la seva mort, Knuševitskij fou professor del Conservatori de Moscou. Rebé diverses distincions del govern soviètic.