A quinze anys deixà els estudis i s’incorporà a una companyia de músics itinerants. Del 1928 al 1930 treballà en l’orquestra d’Alphonso Trent, amb algunes interrupcions puntuals per a tocar amb Jelly Roll Morton. L’any 1930 abandonà Trent definitivament i s’instal·là a Buffalo, on creà la seva pròpia banda. El 1936, instal·lat a Nova York, liderà un quintet a l’Onyx Club que esdevin gué un dels més importants del període swing. En aquesta època començà a emprar un amplificador per al violí. A partir del 1957 realitzà una sèrie de gravacions, entre les quals Have Violin iWill Swing, i també participà en diverses gires. El 1965 s’establí a Copenhaguen, on enregistrà Live at Montmartre, entre altres títols.