De família d’actors, inicià precoçment la seva carrera (1926) i actuà en una sèrie de curtmetratges infantils que el feren molt popular, arran dels quals adoptà el nom pel qual fou conegut. El 1937 protagonitzà A Family Affair, de George B. Seitz, el primer d’una sèrie de films en els quals interpretava el personatge d’Andy Hardy, que esdevingué un arquetipus d’adolescent nord-americà molt popular. Juntament amb Judy Garland, protagonitzà també diversos musicals de gran èxit, dirigits principalment per Busby Berkeley (Babes in Arms, 1939; Strike up the Band, 1940; Girl Crazy, 1943; etc.).
Intèrpret en més de 200 films, a banda dels títols més pròpiament d’entreteniment, destacà també en papers més dramàtics, com ara The Human Comedy (1943), de Clarence Brown; Words and Music (1948), de Norman Taurog; The Bold and the Brave (1956), de Lewis R. Foster; Baby Face Nelson (1957), de Don Siegel; Breakfast at Tiffany's (1961), de Blake Edwards; Requiem for a Heavyweight (1962), de Ralph Nelson; The Black Stallion (1979) de Francis Ford Coppola; Bill: On His Own (1983), d’Anthony Page, i Night at the Museum (2006), de Shawn Levy.
Nominat a l’Oscar diverses vegades, el 1939 obtingué un Oscar en la categoria juvenil pel conjunt de les seves actuacions, i el 1983 un Oscar honorífic pels cinquanta anys de trajectòria. Actuà en nombroses produccions televisives i guanyà un Emmy i un Globus d’Or al millor actor protagonista pel telefilm Bill (1981). Estigué casat vuit vegades, una de les quals amb Ava Gardner.