És considerat un dels intèrprets de piano més importants del segle XX. Membre d’una família acomodada, la seva mare, pianista afeccionada, li impartí les primeres lliçons de música. A dotze anys ingressà al Conservatori de Kíev amb la intenció de dedicar-se a la composició i entre els seus mestres hi hagué Felix Blumenfeld, deixeble d’Anton Rubinstein. Fou A. Skr’abin qui el feu inclinar-se cap al piano. Oferí concerts primer a Rússia i després en altres països europeus. La seva actuació a Berlín l’any 1924, quan tenia vint anys significà el principi de la seva consagració a escala internacional com a gran virtuós del piano. Entre els molts concerts que realitzà destaquen els que oferí juntament amb el violinista rus Nathan Milstein, amb el qual establí una profunda amistat. Després de Berlín vingueren Londres, París i Roma, i, el 1928, tocà al Carnegie Hall de Nova York, dirigit per T. Beecham, en un concert al qual assistiren S. Rakhmaninov, J. Hofmann i J. Lhevinne. Obtingué un èxit espectacular tant entre el públic com entre els crítics. Fou durant aquest any 1928 que realitzà els primers enregistraments.
El 1930 fou dirigit per Willem Mengelberg i el 1932 Arturo Toscanini l’escollí per a interpretar el Concert per a piano ’Emperador', de L. van Beethoven, dins d’un cicle dedicat a aquest compositor. Durant els preparatius per al concert conegué la filla de Toscanini, Wanda, amb la qual es casà un any més tard. Aviat, però, esgotat per les obligacions que comportava la seva carrera, decidí retirar-se uns quants anys. El 1938 reprengué la seva activitat concertística. L’any 1940 s’establí a Nova York i el 1942 obtingué la nacionalitat nord-americana. A partir d’aquell moment inicià una nova etapa de gran activitat concertística fins que es retirà el 1953, després d’un concert celebrat el 25 de febrer al Carnegie Hall. Des d’aleshores les seves actuacions s’anaren espaiant cada vegada més i les escasses reaparicions, normalment davant d’un reduït cercle d’amics i coneguts, foren esdeveniments que provocaven una extraordinària expectació. Feu diversos enregistraments i ajudà algunes joves promeses. Visità una altra vegada Moscou i Leningrad, ciutats on oferí algun concert durant la temporada 1985-86. El seu repertori era molt ampli i incloïa els grans compositors per a piano del segle XIX i també músics menys coneguts com C. Czerny, M. Clementi, E. Dohnanyi i A. Skr’abin. S. Barber li dedicà la Sonata per a piano, opus 26 (1949), i S. Prokof’ev, l'Estudi, opus 52.