Feu el seu debut professional a Washington el 1928. El 1933 entrà a l’orquestra d’Earl Hines i del 1937 al 1943 formà part de l’orquestra de Jimmie Lunceford, de la qual fou un dels millors solistes. Després participà en gires de Jazz at the Philharmonic i el 1952 s’incorporà als All Stars de Louis Armstrong, on romangué fins el 1964. Després d’un període de retir a Hawaii, tornà a actuar en festivals integrat en diverses formacions. Durant la seva estança a l’orquestra de Lunceford, Young es donà a conèixer com un dels trombonistes més brillants i de millor nivell tècnic. D’aquesta època destaquen les peces Bugs Parade, Margie i Tain’t what you do, on també mostrà els seus excel·lents dots de cantant.