Els seus inicis estan vinculats al teatre. Després d’abandonar els estudis de periodisme, des del 1925 es dedicà a la interpretació i es feu un nom en escenaris locals. Posteriorment passà a Nova York, on treballà regularment a Broadway fins el 1935, que actuà en el seu primer film, The Farmer Takes a Wife, de Victor Fleming (a partir d’una obra teatral interpretada per ell l’any anterior), que obtingué una bona rebuda i assenyalà l’inici d’una carrera cinematogràfica caracteritzada per una gran sobrietat interpretativa, plena, però, d’emotivitat, que traslladà als seus personatges en una gran diversitat de gèneres, dels quals sobresortiren els westerns, molts dels quals dirigits per John Ford. Interpretà també comèdies, drames i films bèl·lics, policíacs, romàntics, etc.
D’entre el centenar llarg de títols que interpretà es poden esmentar The Trail of the Lonesome Pine (1936, Henry Hathaway), You Only Live Once (1937, Fritz Lang), That Certain Woman (1937, Edmund Goulding), Jezebel (1938, William Wyler), Spawn of the North (1938, Henry Hathaway), The Mad Miss Manton (1938, Leigh Jason), Jesse James (1939, Henry King), Let Us Live (1939, John Bram), The Story of Alexander Graham Bell (1939, Irving Cummings), Young Mr. Lincoln (1939, John Ford), Drums Along the Mohawk (1939, John Ford), The Grapes of Wrath (1940, John Ford), The Lady Eve (1941, Preston Sturges), Rings on Her Fingers (1942, Rouben Mamoulian), Tales of Manhattan (1942, Julien Duvivier), The Ox-Bow Incident (1942, William A. Wellman), My Darling Clementine (1946, John Ford), The Long Night (1947, Anatole Litvak), Daisy Kenyon (1947, Otto Preminger), Fort Apache (1948, John Ford), Mister Roberts (1955, John Ford), War and Peace (1956, King Vidor), The Wrong Man (1956, Alfred Hitchcock), 12 Angry Men (1957, Sidney Lumet), The Tin Star (1957, Anthony Mann), Warlock (1959, Edward Dmytrick), Advise & Consent (1962, Otto Preminger), The Longest Day (1962, Ken Annakin i Andrew Marton), How the West Was Won (1962, John Ford), Spencer’s Mountain (1963, Delmer Daves), The Best Man (1964, Franklin Schaffner), Fail Safe (1964, Sidney Lumet), Battle of the Bulge (1965, Ken Annakin), A Big Hand for the Little Lady (1966, Fielder Cook), Madigan (1968, Don Siegel), Yours, Mine and Ours (1968, Melville Shalveson), The Boston Strangler (1968, Richard Fleischer), C’era una volta il West (1968, Sergio Leone), The Cheyenne Social Club (1970, Gene Kelly), There Was a Crooked Man... (1970, Joseph L. Mankiewicz), Sometimes a Great Notion (1971, Paul Newman), Le serpent (1973, Henri Verneuil), Il mio nome è Nessuno (1973, Tonino Valerii) i Midway (1976, Jack Smight).
Tot i ser un dels actors més cotitzats de Hollywood des de la segona meitat de la dècada de 1930 fins poc més de la de 1960 i que fou nominat dos cops a l’Oscar al millor actor (1940 per The Grapes of Wrath i 1958 per 12 Angry Man), no rebé el premi fins el 1982, per On Golden Pond (1981, Mark Rydell), que interpretà juntament amb la seva filla Jane Fonda. Fou també pare de l’actor Peter Fonda (Nova York, 23 de febrer de 1940 – Los Angeles, Califòrnia, 16 d’agost de 2019), famós per la seva interpretació a Easy Rider (1969, Dennis Hopper).