Abans de formar les pròpies orquestres, col·laborà, entre d’altres, amb Louis Armstrong, Art Tatum, Red Norvo, Charlie Parker i Duke Ellington, l’obra del qual influiria profundament en el seu vessant com a compositor. En aquest període s’acredità com un dels principals virtuosos del contrabaix en l’àmbit del jazz. A la meitat dels anys cinquanta començà a dirigir formacions de joves músics que reunia en els seus “Jazz Workshop” (‘Taller musical’). Cal destacar molt especialment el període 1960-64, marcat per la col·laboració amb el saxofonista Eric Dolphy. La seva música, turbulenta, sovint experimental i al mateix temps d’una gran coherència interna, sintetitza els diferents corrents de la música negra americana i és considerada una de les principals contribucions al jazz. D’entre els nombrosos enregistraments cal esmentar Tonight at Noon (1961), The Black Saint and the Sinner Lady (1963), Changes (1973) i Three or Four Shades of the Blues (1977). El 1971 publicà la seva autobiografia, Beneath the Underdog on, amb un estil impressionista i vigorós, reflecteix la discriminació de què és objecte el poble negre nord-americà.