Tingué un formació clàssica, i a dotze anys debutà com a professional a Chicago, col·laborant amb alguns dels millors músics de l’època. El 1928 es traslladà a Nova York integrat a la banda de Ben Pollack. El 1934 organitzà la seva primera big-band, que amb el benefici dels arranjaments de Fletcher Henderson tingué un èxit immediat i es mantingué com l’orquestra més popular de l’època swing. Al mateix temps, Goodman actuà i gravà amb formacions de combo, trio i grups de fins a set components, en companyia de Teddy Wilson, Lionel Hampton, Cootie Williams, Charlie Christian i molts d’altres. Paral·lelament, com a clarinetista, interpretà obres del repertori clàssic. Enregistrà peces de J. Brahms i W.A. Mozart, i encarregà concerts per a clarinet a B. Bartók (1938), A. Copland (1947) i P. Hindemith (1947). Malgrat que alentí la seva activitat a partir dels anys cinquanta, encara feu força gires mundials, com també importants concerts i gravacions. Goodman fou un dels principals impulsors de l’anomenada era del swing i, probablement, el músic de jazz més popular dels anys trenta. Les seves formacions foren de les primeres racialment integradores.