Realitzà estudis de trompeta i piano, i el 1923 començà a treballar a Chicago amb Jimmie Noone, al mateix temps que participava en les gravacions dels Hot Five amb Louis Armstrong. El 1928 organitzà una orquestra amb la qual tocà al Grand Terrace Café fins el 1947, any en què es dissolgué. Treballà llavors durant quatre anys als All Stars de Louis Armstrong. Els anys cinquanta actuà en petits conjunts, sense gaire ressò. El 1965 recuperà la seva posició com un dels més importants pianistes de jazz, i actuà en festivals de tot el món. Durant els anys vint, Hines creà un estil pianístic basat, sobretot, en el fraseig trompetístic d’Armstrong, que resultà decisiu en l’evolució de la manera de tocar el piano en el jazz. La seva orquestra fou una de les més importants del període swing i, els anys quaranta, inclogué diversos músics d’estil be-bop.