Començà la seva carrera artística en el teatre i en la TV, per mitjà de la qual es féu famós ràpidament. Dels seus films cal esmentar On the Waterfront (1954), The Harder They Fall (1956), Al Capone (1959), Le mani sulla città (1963), The Pawnbroker (1964, premi del Festival de Berlín), Doctor Zhivago (1966), In the Heat of the Night (1967, Oscar al millor actor), The Sergeant (1970), Waterloo (1970), Lucky Luciano (1973), Les innocents aux mains sales (1975), Hennessy (1975), F.I.S.T. (1978), The Amityville Terror (1979), Lion of The Desert (1981), etc. Des dels anys noranta interpretà sobretot papers secundaris.