Autodidacte de formació, des de molt jove tocà el piano i cantà en locals de la seva ciutat, en un estil que combinava el boogie-woogie, el blues i el rhythm-and-blues. El 1950, amb l’orquestra de Dave Bartholomew, enregistrà el disc The Fat Man, que li donà fama. Associat a Bartholomew fins el 1964, fou un dels primers cantants de rhythm-and-blues que trencà les barreres racials els anys cinquanta i al començament dels seixanta, i assolí un èxit de públic extraordinari, tant entre la comunitat negra de la qual formava part com entre la població blanca.
Reconegut com un dels pioners indiscutibles i iniciadors del rock-and-roll, moltes de les seves cançons (Ain’t That a Shame, I’m in Love Again, Goin’ Home, Whole Lotta Loving, My Blue Heaven, Blueberry Hill, Blue Monday, etc.) han esdevingut clàssics del gènere.
Tot i que des del 1962 feu gires internacionals, des de l’inici dels anys vuitanta es retirà a Nova Orleans, ciutat on continuà actuant però d’on rarament sortí. El 1987 rebé un Grammy a la trajectòria i fou inclòs al Rock & Roll Hall of Fame. El 1999 rebé la Medalla Nacional de les Arts.