El 1957 entrà al grup d’Ornette Coleman, on romangué quatre anys durant els quals gravà els primers set discos del saxofonista, incloent el revolucionari Free Jazz (1960). Després formà part dels grups de Sonny Rollins, Archie Shepp i Albert Ayler. Al principi dels anys setanta visqué a Suècia i actuà sobretot per Europa. Més tard formà el trio Codona i col·laborà amb el cantant Lou Reed. A la dècada dels vuitanta tocà un altre cop amb Ornette Coleman i formà part del grup Old and New Dreams, que incloïa antics membres dels grups de Coleman.
Fou un dels músics que liderà el free-jazz, amb un estil improvisatori derivat del d’Ornette Coleman i un toc trompetístic molt personal, lluny del virtuosisme i explorant les qualitats tonals de l’instrument. A partir dels anys setanta, amb el seu interès per músiques no occidentals, s’anticipà al que després s’anomenà fusió ètnica.