L’any 1891 es graduà al Conservatori de Moscou, on fou alumne de Vasilij Safonov. El 1889 oferí el primer concert sota la direcció d’Anton Rubinstein i el 1895 guanyà el Premi Rubinstein, fet que significà l’inici d’una important carrera concertística. Entre el 1902 i el 1906 fou professor de piano del Conservatori de Moscou. El 1906 inicià una intensa etapa de gires internacionals que durà vuit anys i que el portà, entre altres llocs, als Estats Units. L’esclat de la Primera Guerra Mundial el sorprengué a Berlín, on fou fet presoner. Un cop alliberat, decidí d’instal·lar-se als Estats Units i el 1922 esdevingué professor de la Juilliard School de Nova York. Lhévinne ha estat considerat un dels representants més importants de l’escola pianística russa del segle XX per la fusió d’una tècnica impecable amb un gran lirisme.