Arrelat en el món del jazz, treballà de molt jove amb Jay McShann, Lionel Hampton, Count Basie, Dizzy Gillespie i d’altres. El 1957 s’establí a París i esdevingué director musical de l’empresa de discs Barclay. El 1958 de retorn a Nova York, constituí una gran orquestra amb la qual emprengué un recorregut de gran relleu per tot el món fins l’any 1961 que dissolgué l’orquestra i, cercant nous camins, es dedicà preferentment a compondre i a fer arranjaments i enregistraments d’estudi. El 1995 edità el disc Q's jook joint, amb col·laboracions de Stevie Wonder, Bono, Ray Charles i Gloria Estefan, fins un total de 83 artistes. La seva carrera continuà dedicada majoritàriament a la producció d’altres artistes, com Dizzy Gillespie, Michael Jackson i Aretha Franklin. L’any 2000 publicà el disc Basie and Beyond. Al llarg de la seva carrera fou nominat 77 vegades als premis Grammy, i n'obtingué 26.