S'inicià com a bateria en un conjunt de la Wilberforce University. El 1942, havent contret la tuberculosi, fou hospitalitzat durant uns mesos en un hospital, on aprengué d’un altre pacient els fonaments de la teoria musical. Posteriorment, a Nova York s’uní al grup de joves músics que protagonitzaven la revolució del bop. Després d’una segona hospitalització (1945-46), començà a madurar les pròpies concepcions musicals i compongué cubana be/cubana bop (enregistrada per l’orquestra de Dizzy Gillespie el 1957), una de les primeres incursions del jazz en la música afrocubana, alhora que feia arranjaments per diversos conjunts. El 1953 publicà el tractat Lydian Chromatic Concept of Tonal Organization, que formulava innovacions en la composició i interpretació dutes a la pràctica per ell i altres músics de jazz (especialment Miles Davis), consistents en la improvisació més sobre modes i escales que no pas sobre acords. Traslladà aquestes idees a concerts i enregistraments amb grups liderats per ell que incloïen, entre altres, Bill Evans, Art Farmer, Max Roach i John Coltrane. En 1963-69 visqué a Escandinàvia, on compongué i enregistrà i tingué una gran influència en el sorgiment d’una sèrie de notables músics de jazz. De retorn als EUA, ingressà com a professor al New England Conservatory of Music de Boston. Al mateix temps continuà component i dirigint els propis conjunts, entre els quals la Living Time Orchestra. En aquesta etapa explorà les fronteres del jazz, que combinà amb altres tradicions musicals. La seva discografia inclou, entre d’altres The RCA Victor Jazz Workshop (1956), New York, N.Y (1959), Jazz in the Space Age (1960), Stratusphunk (1960), Ezz-thetics (1961), The Stratus Seekers (1962), The Outer View (1962), Electronic Sonata for Souls Loved by Nature (1969) Listen to the Silence (1973), Vertical Form VI (1976), The African Game (1983), So What (1986) i It's About Time (1996).