Fill d’un excombatent de la Primera Guerra Mundial que abraçà el nazisme i morí al front durant la Segona Guerra Mundial, el 1944 hagué d’interrompre els estudis musicals quan fou mobilitzat a l’exèrcit alemany. Capturat pels britànics, en acabar la guerra fou alliberat i es guanyà la vida com a acompanyant musical en un teatre de Bielefeld. El 1946 reprengué els estudis a la Universitat de Heidelberg sota la direcció de Wolfagang Fortner, i al mateix temps aprengué de manera autodidàctica la tècnica dodecatònica fins el 1949, que n’amplià els coneixements a Darmstadt i a París.
Les seves primeres obres publicades i estrenades són compostes seguint aquesta tècnica. Destaquen la Simfonia número 1 i el Concert per a violí, ambdues del 1947. L’any 1948 escriví la seva primera obra escènica, unes Ballett-Variationen estrenades l’any següent a Düsseldorf. Aquesta mena d’obres (especialment les òperes) acabaren per dominar el conjunt de la seva producció. Assistent musical del Teatre de Constança i posteriorment director del ballet del Teatre de la Ciutat de Wiesbaden (1950), l’any 1953 traslladà la seva residència a Itàlia, fet que atribuí a la incomoditat que li causava el clima polític del seu país, i també pel que considerava la creixent homofòbia dels seus compatriotes.
En una bona mesura coincidint amb l’expatriació, abandonà el serialisme i l’avantguarda més ortodoxa, i les seves composicions esdevingueren cada cop més eclèctiques i personals. Incorporà elements del jazz, de les músiques orientals, el pop i el rock i alguns compositors neoclàssics com ara Stravinskij. Aquests anys compongué, entre altres, Fünf neapolitanische Lieder (’Cinc cançons napolitanes’, 1956) per al baríton Dietrich Fischer-Dieskau, i les òperes Der Prinz von Homburg (1958) i Der Junge Lord (1964), amb llibret de l’escriptora Ingeborg Bachmann, amb la qual col·laborà estretament.
Les seves arrelades conviccions marxistes i comunistes es reflectiren en algunes de les seves obres més conegudes i de vegades foren motiu de polèmica, especialment a partir de l’estrena de Das Floß der Medusa (’El rai de la medusa’, 1968), concebut com un rèquiem al Che Guevara. En 1969-70 fixà la residència a l’Havana, on dirigí cursos musicals i estrenà algunes obres, entre les quals cal citar la Sisena simfonia i el recital El Cimarrón, obres d’un fort compromís polític. Molts anys més tard, d’altra banda, adaptà a la Novena simfonia per a cor i orquestra (1997), la novel·la Das siebte Kreuz (’La setena creu’), de l’escriptora comunista Anna Seghers, en què tracta el tema de l’Holocaust.
Fou també molt destacable la seva dedicació pedagògica i de difusió de la nova música: fundador de l’escola d’estiu Taller Internacional d’Art de Montepulciano (1976) i dels Tallers de Mürztal de la regió austríaca d’Estíria (1981), del Festival Jove de Deutschlandsberg (1984) i de la Biennal de Munic (1988), dedicada a la música escènica, del 1980 al 1991 exercí com a professor de composició a la Staatliche Hochschule für Musik de Colònia, el 1981 fou nomenat director artístic de l’Accademia Filarmonica Romana, el 1984 fundà el Deutschlandsberger Jugenmusikfest a Estíria, el 1988 fou nomenat director artístic de la Biennal de Munic i el 1991 compositor resident de l’Orquestra Filharmònica de Berlín, després d’haver-ho estat al Tanglewood Music Center de Massachusetts (EUA) els anys 1983 i 1988.
A banda de les obres esmentades, de la seva extensa producció cal esmentar les òperes Boulevard Solitude (1952), König Hirsch (’El rei cérvol’, 1956), Elegie für junge Liebende (’Elegia per a joves amants’, 1961), Die Bassariden (1966), sobre texts d’Eurípides, The English Cat (1983), Das verratene Meer (’El mar traït’, 1990), Venus und Adonis (1995), L’Upupa und der Triumph der Sohnesliebe (’La puput i el triomf de l’amor filial’, 2003); el ballet Le fils de l’air (1996), i la Simfonia núm. 10 (1997-2000), a més de música orquestral com ara la Sebastian im Traum (’El somni de Sebastià’, 2005), obres per a cor ( Elogium musicum, 2008), cambra, etc.
Considerat un dels músics més importants del segle XX, al llarg de la seva carrera fou objecte de nombrosos reconeixements: membre honorari de la Royal Academy of Music de Londres (1975), de la Berlin Deutsche Oper (1982) i de l’American Academy and Institut of Arts and Letters de Nova York (1982), entre d’altres; entre els nombrosos guardons que rebé, cal esmentar el premi Ernst von Siemens (1990), el premi del Cannes Classical Award al millor compositor viu (2001), el Premi Imperial del Japó (2000), el premi Laurence Olivier a la millor producció operística per Boulevard Solitud a la Royal Opera House de Londres (2002) i la Legió d’Honor francesa (2003). Fou també nomenat doctor honoris causa per la Universitat de Munic i per la Universitat d’Edimburg (1971).