El seu pare, Oscar Feltsman, fou un compositor de cançons d’un cert renom i la seva mare li donà les primeres nocions de piano. Estudià amb E. Timakine i es presentà per primera vegada en públic el 1963 tocant la Rapsòdia de D. Kabalevskij amb l’Orquestra Filharmònica de Moscou. El 1967 guanyà el primer premi del Concurs Radiofònic Concertino de Praga i aquest mateix any ingressà al Conservatori de Música de Moscou per a estudiar amb I. Fliere. Guardonat en el Concurs Long-Thibaud de violí i piano el 1971, a partir d’aquest moment començà a celebrar concerts arreu del món. El seu desig d’emigrar a Israel feu que el govern soviètic el mantingués sota una estricta vigilància i restringís les seves anades a l’estranger, fet que perjudicà la seva carrera. Finalment, el 1987 emigrà als Estats Units, on és professor de la Universitat de Nova York.