Després de passar per l’exèrcit, estudià interpretació a l’escola el Dramaten d’Estocolm (1948-51) i posteriorment actuà en diversos teatres de Suècia. Des dels inicis fou un dels actors principals d’Ingmar Bergman, a les ordres del qual rodà el seu primer film, Det sjunde inseglet (‘El setè segell’, 1956), a partir del qual dedicà la seva activitat al cinema en detriment del teatre. Amb el mateix Bergman rodà posteriorment Smultronstället (‘Maduixes silvestres’, 1957), Nära livet (‘Vida íntima’, 1958) Jungfrukällan (‘La font de la donzella’, 1959), Ansikten (‘Rostres’, 1958), Såsom i en spegel (‘Com en un mirall’, 1961), Nattvardsgästerna (‘Llum d'hivern’, 1963), Vargtimmen (‘L’hora del llop’, 1968), Skammen (‘Vergonya’, 1968), En passion (‘Una passió’, 1970) i Beröringen (‘Tacte’, 1971).
A banda de les actuacions amb Bergman, fou també un dels intèrprets més destacats del cinema escandinau: Prästen i Uddarbo (‘Un capellà a Uddarbo’, 1957), Bröllopsdagen (‘El dia del casament’, 1960) i Nils Holgerssons underbara resa (‘El viatge meravellós de Nils Holgersson’, 1962), de Kenne Fant; Älskarinnan (‘L’amant’, 1963), de Vilgot Sjömann; Utvandrarna (‘Els emigrants’, 1971), Nybyggarna (‘La nova terra’, 1972), Ingenjör Andrées luftfärd (‘El viatge aeri de l’enginyer Andrée’, 1982), Här har du ditt liv (‘Vet aquí la vida’, 1966) i Hamsun (1996), de Jan Troell; Pelle erobreren (‘Pelle el conqueridor’, 1987, premi de l’Acadèmia del Cinema Europeu al millor actor protagonista 1988) i Den goda viljan (‘Les millors intencions’, 1992), de Bille August.
Actor de gran presència, expressió sòbria i al mateix temps impactant, la seva projecció internacional el portà a actuar en un gran nombre de títols de gèneres diversos, entre els quals cal esmentar The Greatest Story Ever Told (1965), de George Stevens; Hawaii (1966), de George Roy Hill; The Quiller Memorandum (1966), de Michel Anderson; The Exorcist (1973), de William Friedkin; Steppenwolf (1974), de Fred Haines; Foxtrot (1976), d’Arturo Ripstein; Cadaveri eccellenti (1976), de Franceso Rosi; La mort en direct (1980), de Bertrand Tavernier; Flash Gordon (1980), de Mike Hodges; Victory (1981), de John Huston; Conan the Barbarian (1982), de John Milius; Never say Never Again (1983), d’Irvin Kershner; Hannah and her Sisters (1988), de Woody Allen; Awakenings (1990), de Penny Marshall; Una vita scellerata (1990), de Giacomo Battiato; Judge Dredd (1995), de Danny Cannon; Extremely Loud & Incredibly Close (2011), de Stephen Daldry; Star Wars: Episode VII - The Force Awakens (2015), de J.J. Abrams, i Kursk (2018), de Thomas Vinterberg.
Actuà també en sèries de televisió: Quo Vadis? (1985), Christopher Columbus (1985), The Last Place on Earth (1985), Radetzkymarsch (1994), Professione fantasma (1998), The Tudors (2009), Game of Thrones (2016). Entre altres guardons, rebé premis a la trajectòria als festivals de Canes (2004), de Sant Sebastià (2006) i de Cinema Fantàstic de Sitges (2016). L’any 2002 es nacionalitzà francès.