Començà com a clarinetista i pianista en un conjunt de jazz, a Roma. El 1965 el cantant Gino Paolo el convencé per a iniciar-se com a vocalista i l’any següent enregistrà el primer disc, 1999, que, com el seu segon disc, Terra di Gaibola (1970), no tingué gaire ressò. L’any 1971 obtingué el tercer lloc al festival de San Remo amb la cançó 4/371943.
A partir de l’associació amb el poeta Roberto Roversi (1970-76), començà a ser conegut, però fou quan se separaren (1976) que arrencà una carrera en solitari com a autor de la lletra i música de les seves cançons i es convertí en un dels cantautors italians més celebrats, sobretot a partir de Lucio Dalla (1979). D’estil eclèctic, combinava el pop, el jazz i la balada melòdica en un estil molt personal en què sobresortien el sentit de l’humor, l’emotivitat i un cert surrealisme. Caruso, dedicada al gran tenor italià, el projectà internacionalment, però també tingueren un gran ressò cançons com ara Nuvolari, Anna e Marco, L’anno che verrà, Futura, Cara i Attenti al lupo.
A més dels àlbums esmentats, la seva discografia (una quarantena de títols) inclou també Il giorno aveva cinque teste (1973), Anidride solforosa (1975), Automobili (1976), Come è profondo il mare (1977), Banana Republic (1979), Viaggi organizzati (1984), Bugie (1985), Luna Matana (2001) DallameriCaruso (1986), Amen (1992), Ciao (1999), Lucio (2003), Il contrario di me (2007), Work in Progress (2010), etc.
El 2003 rebé el títol de Gran Oficial de l’Orde del Mèrit de la República Italiana. Participà també en bandes sonores o com a actor en diversos films, entre els quals cal esmentar els dels germans Taviani, Mario Monicelli o Michelangelo Antonioni.