Es crià a Alabama i al principi dels anys trenta tocà a Chicago amb Jimmie Noone i Louis Armstrong. El 1933 s’instal·là a Nova York per tocar amb Benny Carter. De l’any 1936 al 1939 formà part del grup de Benny Goodman, un dels primers conjunts racialment integrats, i donà a conèixer el seu estil pianístic, que esdevingué dels més importants del període anomenat swing. Aportà innovacions rítmiques, harmòniques i contrapuntístiques, que influïren en pianistes posteriors. Liderà breument una orquestra i després actuà sobretot al capdavant d’un trio. Wilson dugué a terme nombrosos enregistraments, alguns amb personalitats com Lester Young, Benny Goodman i Billie Holiday. Entre les seves millors gravacions hi ha The Impeccable Mr.Wilson (1957).