Fill de família protestant, amant del jazz i el blues, començà a cantar professionalment a quinze anys amb el grup de rhythm-and-blues Monarchs. La seva dilatada carrera se situa entre el rhythm-and-blues, el jazz, el pop i la música celta. Es donà a conèixer a mitjan anys seixanta, en ple esclat del moviment beat, al capdavant del grup Them, amb el qual enregistrà èxits com Baby Please Don’t Go o Gloria.
L’any 1966 emprengué la seva carrera en solitari i l’any següent publicà el seu primer gran èxit, la cançó Brown Eyed Girl, i el 1968 el primer senzill Astral Weeks, en què barrejava magistralment el jazz-rock i el folk celta, que també marcà una fita en el món del rock. El 1974 publicà It’s Too Late to Stop Now, considerat un dels millors discos de rock enregistrats en directe.
El clímax de la seva trajectòria arribà a mitjan anys setanta amb discs com Hard Nose the Highway (1973). Les incursions en la música celta han estat una constant en la seva carrera, tant en solitari com amb el grup de folk irlandès The Chieftains. Com a saxofonista, també s’ha endinsat en el món del jazz amb àlbums com How Long Has This Been Going On (1996).
De la seva extensa discografia (més d’una vintena de títols), cal destacar també Moondance (1970), Irish Heartbeat (1988), Hymns to the Silence (1991), A Night in San Francisco (1994), Days Like This (1995) i The Songs of Mose Allison (1996). El 1997 publicà el disc The Healing Game, i el 1999, Back on Top.
L’eclecticisme ha estat la característica principal d’aquest cantant, compositor i intèrpret de nombrosos instruments. Sempre rebutjà les modes i els patrons establerts per tal de fer el que li venia de gust, encara que no fos comercial. Escrivia lletres complexes, enigmàtiques, místiques i nostàlgiques.
Els anys noranta recuperà la popularitat perduda durant els vuitanta i tornà a les seves arrels, el blues, el rhythm-and-blues i la música tradicional irlandesa. A partir de la dècada del 2000 mantingué una intensa activitat discogràfica i concertística. L’any 2000 tragué el disc en directe The Skiffle Sessions: Live in Belfast, amb Lonnie Donegan i Chris Barber. Mesos més tard publicà You Win Again, al costat de Linda Gail Lewis, germana de Jerry Lee Lewis. Després de Down the Road, edità What’s Wrong with This Picture? (2003), amb peces de r’n’b, rock, jazz i soul. El 2005, amb Magic Time, concentrà el seu interès musical en el blues.
La seva producció discogràfica supera ja la quarantena d’àlbums d’estudi. Entre els darrers enregistraments destaca Remembering Now (2025), que significà un retorn a la seva faceta de compositor després d’una etapa dedicada principalment a versions i relectures del seu propi repertori.