El 1955 es graduà en literatura anglesa a la Universitat McGill de Mont-Real i guanyà el premi McNaughton 1956 pel poemari Let Us Compare Mythologies (1956), inici d’una carrera literària, que comprèn novel·les influïdes per la generació beat, plenes de dolor i pessimisme existencial, que foren molt aplaudides (The Favourite Game, 1963; Beautiful Losers, 1966); poesia (The Spice-Box of Earth, 1961; Flowers for Hitler, 1964; Parasites of Heaven, 1966; The Energy of Slaves, 1972), gènere en el qual aconseguí la seva màxima projecció com a escriptor; obres curtes en què combina prosa i poesia (Death of a Lady' Man, 1978; Book of Mercy, 1984; Book of Longing, 2006), i articles. Les seves innombrables cançons són aplegades, entre altres reculls, a The Lyrics of Leonard Cohen (2009).
A instàncies de la cantant Judy Collins, debutà com a cantant al festival folk de Newport del 1967 amb el tema Suzanne, i en poc temps les seves interpretacions aconseguiren un gran èxit. El 1967 enregistrà el primer disc d’estudi, The Songs of Leonard Cohen, al qual seguiren Songs from a Room (1969), Songs of Love and Hate (1971), New Skin for the Old Ceremony (1974), Death of a Ladies’ Man (1977, produït per Phil Spector), Recent Songs (1979), Various Positions (1985), I’m Your Man (1988), disc on introduí gotes d’humor negre i on utilitzà teclats, The Future (1993), Ten New Songs (2001), Dear Heather (2004), Old Ideas (2012), Popular Problems (2014) i You Want it Darker (2016). A aquesta discografia cal afegir-hi els enregistraments en viu Leonard Cohen: Live Songs (1973) i Field Commander Cohen: Tour of 1979 (2001). El 2005, la fallida de les seves finances el portà a tornar els escenaris amb gires arreu del món, fruit de les quals són els àlbums Live in London (2009), Songs from The Road (2010), Live in Dublin (2014) i Can’t Forget: A Souvenir of the Grand Tour (2015). Publicà també alguns àlbums recopilatoris, entre els quals cal esmentar The Best of Leonard Cohen (1975), i produí, arranjà i fou coautor de les lletres de Blue Alert (2006) de la cantant Anjani Thomas, companya seva durant molts anys.
Les seves lletres melancòliques, introspectives i visionàries alhora i la seva veu profunda, en el registre de baríton, així com la seva imatge, el convertiren en una icona del moviment contracultural. En aquest aspecte, se l’ha comparat sovint amb Bob Dylan. Com en el cas d’aquest, la seva obra ha esdevingut patrimoni de la cultura popular (especialment certes cançons, com Suzanne i Hallelujah). El seu repertori és un dels que té més versions del pop-rock. Jueu practicant, s’interessà especialment pel budisme i passà llargues temporades de meditació en monestirs. Féu també incursions en el cinema.
Obtingué, entre d’altres, el premi literari McGill (1966) i el premi del Governador General del Canadà (1968), que refusà. L’any 2003 fou investit membre de l’orde del Canadà, la distinció civil més important d’aquest estat. El 2010 rebé un Grammy a la trajectòria i el 2011 el premi Glenn Gould, un dels més reputats en el món de la música, i el premi Príncipe de Asturias de les lletres.