Estudià violoncel i trombó, però aviat s’inicià en el contrabaix. De molt jove compongué alguns temes, com ara What Love (1939), que no gravà fins els anys seixanta. Passà de manera breu per les formacions de Barney Bigard, Lionel Hampton i Louis Armstrong. Començà a ser conegut quan formà part del trio de Red Norvo els anys 1950-51. Després es traslladà a Nova York, on treballà amb Bud Powell, Duke Ellington i Charlie Parker. Alhora fundà la discogràfica Debut. Més tard organitzà el Jazz Workshop, concebut com a laboratori d’experimentació col·lectiva, on, amb diverses formacions i fent força ús de la improvisació, es tocaven i s’enregistraven les seves composicions i els seus arranjaments. D’una llarga sèrie en destaquen Pithecanthropus erectus (1956), Blues & Roots (1959), The Black Saint and the Sinner Lady (1963) i Mingus, Mingus, Mingus, Mingus, Mingus (1963). El 1971, gràcies en part a una beca de la Guggenheim, compongué per a big-band i escriví dues suites per al cinema. Treballà intensivament i feu nombroses gires amb el seu quintet, algunes cançons de les quals recollí a Changes One, Changes Two (1974). Al gener del 1978 supervisà, des d’una cadira de rodes, la seva última sessió discogràfica. Mingus fou un dels creadors més importants del jazz, bastí un món personal, nodrint-se de molt diverses fonts i exercint plenament els seus vessants d’instrumentista, de compositor i de líder.