Fill d’un matrimoni armeni emigrat a França, el 1941 començà la carrera de compositor i intèrpret en locals nocturns i cabarets formant duo amb Pierre Roche, amb el qual obtingué renom internacional. Després de la Segona Guerra Mundial començà a compondre també per a altres cantants, entre les quals hi ha Edith PIaf i Juliette Gréco. Les primeres actuacions en solitari li valgueren un renovat reconeixement com un dels màxims representants de la cançó francesa. Es donà a conèixer amb melodies suaus i lletres que parlaven de l’amor i les relacions de parella, i també de l’homosexualitat, de les drogues i de fets quotidians, la majoria plenes de tristesa i melangia. El 1946 debutà com a actor al cinema.
Autor de centenars de cançons, part de les quals en anglès, armeni, italià i altres llengües, algunes esdevingueren grans èxits (Sur ma vie, Parce que, Après l’amour, Je hais les dimanches, La bohème, She, Yesterday When I Was Young, etc.). Enregistrà prop d’un centenar de discs, una desena dels quals foren disc d’or. Composà i interpretà nombroses bandes sonores i musicals, i participà com a actor en nombrosos films (La tête contre les murs, 1959, de Georges Franju; Un taxi pour Tobrouk, 1960, de Denys de La Patellière; Tirez sur le pianiste,1960, de François Truffaut; Alta infedeltà, 1964, de Mario Monicelli; Yiddish Connection, 1986, de Paul Boujenah; Beaumarchais, l’insolent, d’Édouard Molinaro, 1996, i Ararat , 2001, d’Atom Egoyan). Un any després de la seva mort s’estrenà Le regard de Charles, una crònica personal a partir de material filmat per ell mateix amb una càmera d’afeccionat del 1948 al 1982. L’any 1997 rebé un César honorífic. Defensor de causes socials i cíviques, mostrà un clar compromís per aconseguir el reconeixement del genocidi armeni del 1915, i el 1988 impulsà una campanya d’ajuts per a la reconstrucció d’Armènia (aleshores part de l’URSS), després del terratrèmol que devastà aquest país. Des del 1995 representà Armènia a la UNESCO i el 2009 fou nomenat ambaixador d’aquest estat a Suïssa.
Obtingué nombrosos reconeixements, entre els quals hi ha el Lleó d’Or del Festival de Venècia per la versió italiana de la cançó del film Mourir d’aimer (1971), el Gran Premi Nacional de les arts i les lletres (1985), la Gran Medalla de la cançó francesa de l’Académie Française (1995), membre de la Songwriters Hall of Fame (Los Angeles, Estats Units, 1996), Comanador de l’Orde Nacional del Mèrit (2001) i de la Legió d’Honor (2004) i Heroi nacional d’Armènia (2004).