Tocà en bandes locals de Colorado fins que entrà a la formació de Ben Pollack el 1928. Als anys trenta treballà de trombonista i arranjador amb Red Nichols i d’altres, fins que el 1937 formà la seva pròpia orquestra, que a partir del 1939 gaudí de gran popularitat, amb temes com Tuxedo Junction, In the Mood o Pennsylvania 6-5000. Durant la Segona Guerra Mundial, Miller es militaritzà i formà una orquestra que actuava per a les tropes aliades. L’orquestra de Miller disposà d’arranjaments elaborats i funcionals que han restat als repertoris de les orquestres de ball.