Membre d’una família eslavogermànica amb tradició musical, els seus inicis estigueren marcats per la passió per l’òpera. A vuit anys ja componia música, però quan en tenia vint deixà de fer-ho. A vint-i-dos anys abandonà Odessa, on vivia, per anar a Moscou. Debutà el 1934, i el 1937 esdevingué alumne del gran pedagog G. Neuhaus, que descobrí les seves qualitats com a intèrpret de piano. Treballà durant sis anys amb aquest professor, compartint classe amb E. Guilels.
El 1945 fou premiat al concurs de Moscou, fet que significà l’inici d’una carrera ininterrompuda fins a la seva mort. Establí amistat amb M. Rostropovič i també amb S. Prokof’ev, del qual l’any 1942 estrenà la Sonata número 6 i, més endavant, les números 7 i 9. Aquesta darrera li fou dedicada, com també la Simfonia concertant per a violoncel i orquestra, estrenada per Rostropovič.
La seva carrera com a pianista es desenvolupà durant molts anys a la Unió Soviètica i no debutà als Estats Units fins el 1960. Un any més tard ho feu a Anglaterra, a França i a Àustria. Posteriorment, feu tournées de concerts per tot el món.
Un dels pianistes més importants del segle XX, ha estat considerat per molts una figura sagrada, i les seves actuacions, sobretot a la darrera època, eren envoltades d’una aurèola de misteri i d’una certa teatralitat. Tocà música de cambra amb D. Ojstrakh, M. Rostropovič i O. Kagan, i també acompanyà els cantants Nina Dorliac —la seva companya sentimental—, Elisabeth Schwarzkopf i D. Fischer-Dieskau. El seu estil interpretatiu, com ell mateix reconegué, era marcat per la influència de les obres pictòriques de Robert Falk, Piet Mondrian i K.S. Malevič —Richter també pintava—. Dotat d’una memòria extraordinària, podia oferir de deu a quinze programes cada temporada. També tenia una facilitat extraordinària per a la lectura a vista. Oferí el seu darrer concert el 1995 a Lübeck, quan la seva salut ja s’havia deteriorat ostensiblement. El seu repertori era amplíssim i anava de J.S. Bach (del qual enregistrà una memorable versió d’El clavecí ben temperat) a G. Gershwin, amb preferència per les obres més desconegudes, com ara les sonates per a piano de F. Schubert