De família d’immigrants judeorussos, s’inicià professionalment a l’inici de la dècada de 1970 com a guionista de programes de televisió. La seva primera incursió en el cinema fou com a guionista dels films Silent Movie (1976) i High Anxiety (1977), dirigits per Mel Brooks. Debutà a la direcció el 1982 amb Diner, una comèdia dramàtica autobiogràfica amb la qual fou candidat a un Oscar com a millor guionista. La seva producció posterior ha estat generalment ben rebuda. Hom pot esmentar-ne The Natural (1984), Good Morning, Vietnam (1987) i, especialment, Rain Man (1988), film amb el qual aconseguí l’Oscar al millor director i també guardonat amb els Oscar a la millor pel·lícula, millor actor (Dustin Hoffman) i millor guió original, a més de l’Os d’Or al Festival de Berlín (1989). Continuà treballant amb grans estrelles del cinema com Warren Beatty, Robin Williams, Robert De Niro o Al Pacino en pel·lícules posteriors, com ara Avalon (1990), Bugsy (1991), Sleepers (1996), Wag the Dog (1997), Man of the Year (2006), You don’t Know Jack (2010), Rock the Kasbah (2015), The Wizard of Lies (2017) i Paterno (2018), de la majoria dels guions de les quals és autor o coautor. És també un destacat productor televisiu.