Es crià prop de Nova Orleans i després a Minneapolis. Estudià diversos instruments i formà part de l’orquestra familiar. Al principi dels anys trenta, ja amb el saxòfon tenor, treballà a Kansas City, on formà part de les orquestres de Walter Page, Bennie Moten i Count Basie. El 1934 treballà mig any a l’orquestra de Fletcher Henderson i el 1936 tornà amb Basie quan la seva orquestra debutà a Nova York. Hi romangué fins el 1940 gravant Shoe Shine Boy, Lady Be Good, Every Tub, Jive at Five i Lester Leaps In, entre altres títols. Després treballà amb el seu propi conjunt, amb el qual enregistrà I Never Knew (1943) i These Foolish Things (1946). Participà en gires de Jazz at the Philharmonic. Els anys cinquanta, amb la salut força deteriorada, seguí treballant i fent alguns enregistraments, com Prez in Europe. Young creà el seu propi estil instrumental pel saxòfon tenor i també pel que fa a la improvisació. És considerat un dels músics més influents del jazz.