Estudià dret a la Universitat de Tartu, on, després de ser internat en un camp de concentració pels nazis el 1944, es graduà el 1945. Posteriorment hi impartí classes fins el 1946, que fou arrestat per les autoritats soviètiques i internat de nou en un camp del gulag a Sibèria fins el 1954. Es reincorporà a la vida civil com a escriptor professional, i començà a publicar reculls de poemes en els quals evità la censura soviètica mitjançant l’absurd, el surrealisme i metàfores molt elaborades. El 1970 publicà la seva primera novel·la, Kolme katku vahel (‘Les tres plagues’), la primera d’un cicle que inclou Keisri hull (‘El boig del tsar’, 1978), considerada la seva millor obra i que malgrat situar-se a l’edat mitjana constitueix una paràbola de l’URSS. Altres novel·les i reculls de narracions posteriors són Professor Martensi ärasõit (‘La marxa del professor Martens’, 1984), Wikmani poisid (‘El nois Wikman’, 1988) i Väljakaevamised (‘Excavacions’, 1990). Malgrat els problemes amb la censura, el 1977 i el 1985 rebé alguns premis oficials. Amb la independència d’Estònia fou diputat en 1992-93 i fou nomenat cap de la comissió que investigà les activitats del KGB durant l’època soviètica. El 1998 publicà Paigallend, novel·la que examina la història de l’URSS des de l’òptica d’un personatge singular. A partir de 2003 publicà també diversos volums de memòries. Rebé nombrosos premis, entre els quals l’Eeva Joenpelto de Finlàndia (1988), el Prix du Meilleur Livre Étranger (1989), el Golden Flame d’Amnistia Internacional (1990); el premi nacional de cultura d’Estònia (1998) i el premi de literatura dels països bàltics (1999). Traduí també a l’estonià Shakespeare, Balzac, Heine, Brecht i Zweig, entre d’altres.