Aprengué el violí i el piano de manera autodidàctica, i treballà acompanyant pel·lícules mudes. El 1934 formà amb Django Reinhardt el Quintette du Hot Club de France, amb el qual es donà a conèixer. Durant la Segona Guerra Mundial treballà a Londres amb George Shearing. Els anys seixanta la seva carrera experimentà un rellançament i actuà en importants festivals dels Estats Units. Durant els setanta enregistrà tres discos amb Yehudi Menuhin. S. Grappelli fou un dels pioners de la utilització del violí en el jazz. Amalgamà equilibradament la tradició clàssica del violí, el sentit rítmic del swing i la improvisació.