Anà a estudiar filosofia a París on, atret pel surrealisme, es dedicà a la literatura. El 1947 trencà amb el líder d'aquest moviment, André Breton, ruptura que es reflectí en els primers reculls de poemes, dels quals sobresurt Du mouvement de l’immobilité de Douve (1950), en el qual intentà connectar l'univers oníric amb la realitat quotidiana. Altres fites de la seva obra poètica, que comprèn una trentena de títols són Hier régnant désert (1958), Pierre écrite (1959), Rue Traversière (1977), Récits en rêve (1987), Une autre époque de l’écriture (1993), L’encore aveugle (1997), La pluie d’été (1999), Le théâtre des enfants (2001), Le Cœur-espace (2001), considerada la seva obra mestra, Les planches courbes (2001) i La longue chaine de l’ancre (2008).
Fou també molt rellevant la seva tasca com a traductor al francès, entre d'altres, de William Shakespeare, William Butler Yeats, John Donne, Petrarca, Iergos Seferis, etc. Assagista prolífic, centrà el seu interès en l'art i la literatura, i publicà Peintures murales de la France gothique (1954), Arthur Rimbaud (1961), Miró (1965), Un rêve fait à Mantoue (1967), Rome, 1630 : l'horizon du premier baroque (1970, premi dels crítics d'art de França 1971), L'Ordalie (1975), Entretiens sur la poésie (1984), Alberto Giacometti, biographie d’une oeuvre (1991), La vérité de parole (1995), La communauté des traducteurs (2000), L’imaginaire métaphysique (2006), entre molts d'altres. Redactor de la revista literària L'Éphémère (1966-1972) i professor al Collège de France (1981-93), rebé, entre d'altres, els premis de poesia de l'Académie Française (1981), Strega (1999), Kafka (2007) i Roger-Kowalski (2011).