Pertanyent a una família de músics, durant la seva infantesa començà a estudiar piano i trombó i d’adolescent tocà en diverses bandes locals. El 1928 es traslladà a Nova York, on entrà en la banda de Ben Pollack i també actuà amb Louis Armstrong, amb qui enregistrà Knockin’a Jug (1929). Durant el període 1933-38 formà part de l’orquestra de Paul Whiteman i després, fins el 1946, actuà amb la seva pròpia big band, amb la qual gravà Wolverine Blues (1940). Del 1946 al 1951 fou membre del conjunt All Stars, de Louis Armstrong. Un cop abandonat el grup, seguí treballant, en solitari o bé al capdavant d’algun conjunt. Al mateix temps que Jimmy Harrison (1900-1931), Teagarden donà al trombó la categoria d’instrument solista. Destacà entre altres músics blancs pel seu sentit del blues. Fou també un remarcable i original cantant.