A quinze anys començà la seva carrera professional a Nova York. Tocà amb Jack Teagarden, Stan Kenton i Benny Goodman, abans d’entrar a l’orquestra de Woody Herman, on es donà a conèixer sobretot per la interpretació dels temes Four Brothers i Early Autumn (1948). A partir de llavors actuà sobretot amb els seus propis grups. Cap als últims anys de la dècada dels cinquanta visqué i treballà a Escandinàvia. Novament als Estats Units, Getz gravà el disc Focus (1961), una suite per a saxo tenor i secció de corda composta per Eddie Sauter, i l’any següent, amb l’àlbum Jazz Samba, inicià la fusió del jazz i la bossa nova, que li reportà molta popularitat. Els anys setanta i vuitanta actuà per tot el món amb petits conjunts de gran qualitat. Durant els seus últims anys actuà i gravà sobretot a duo amb el pianista Kenny Barron. Getz fou un exponent important del saxo tenor en la música de jazz. Originalment influït per Lester Young, desenvolupà un estil molt personal, de gran melodiositat, i una elegant aproximació al llenguatge del be-bop.