Visqué a Nova York des dels sis anys, i aprengué el trombó i després la corneta. Des del 1920 actuà professionalment amb Mamie Smith i d’altres, i el 1923 entrà als Washingtonians, que al cap de poc es convertiren en la Duke Ellington Orchestra. Hagué d’abandonar Ellington el 1929, i durant els seus últims anys de vida treballà amb Noble Sissle i Zutty Singleton. Miley, que havia estat influït per Joe King Oliver i Johnny Dunn, posseïa una profunda expressivitat i desenvolupà la interpretació amb sordina wa-wa. Contribuí a la creació de l’estil i el so de l’orquestra de Duke Ellington quasi tant com el mateix director. Molts dels temes del repertori ellingtonià de la primera època, com ara Black and Tan Fantasy i East St. Louis Toodle-oo, foren creats amb idees de Bubber Miley.