Tècnic de laboratori de professió, el 1954 començà a interpretar les seves cançons pels cafès. Del 1955 al 1960 musicà poemes de diversos poetes coneguts i més tard col·laborà amb Louis Aragon (Les yeux d’Elsa). A partir del 1963 inicià una carrera de cantautor i s’anà decantant gradualment cap a posicions polítiques d’esquerra, bé que criticà en diverses ocasions la línia del Partit Comunista (al qual era molt proper, tot i no militar-hi), especialment amb motiu de la invasió soviètica de Praga el 1968, que reflectí en la cançó Camarade. Entre les seves cançons més conegudes (que donaren nom a alguns dels seus àlbums més celebrats), cal esmentar Nuit et Brouillard (1963, Gran Premi del Disc de l’Académie Charles Cros 1964), La Montagne (1964), Potemkine (1965), Ma France (1969), La femme est l’avenir de l’homme (1975), Je ne suis qu'un cri (1985) i Dans la jungle ou dans le zoo (1991). Amb G. Brassens, J. Brel i L. Ferré, és considerat el principal representant masculí de la cançó francesa.