Una poliomielitis que patí durant la seva primera infantesa li afectà l’ús de les cames. Començà els estudis de violí a quatre anys a la seva ciutat natal, i quan en tingué deu ja oferí nombrosos concerts i recitals al seu país. Es perfeccionà a la Juilliard School de Nova York amb Ivan Galamian i Dorothy DeLay. Debutà al Carnegie Hall el 1963 i un anys després guanyà el Concurs de Leventritt. Aquest fou l’inici d’una espectacular carrera com a solista, amb actuacions regulars a Europa i Àsia amb les millors orquestres i els millors directors. Tornà a Israel el 1965 i debutà a la Gran Bretanya el 1968. El 1995 celebrà el seu cinquantè aniversari amb una sèrie de quatre sessions, en les quals interpretà set concerts diferents al Royal Festival Hall de Londres sota el títol de The Definitive Perlman Experience. És considerat un dels violinistes més brillants de la seva generació. La seva extensa discografia inclou pràcticament tots els grans concerts per a violí del segle XIX i del començament del XX.