S’inicià professionalment en el teatre, i va obtenir un notable ressò a Broadway. Actor de registre eminentment còmic, debutà en el cinema el 1967 en Bonnie & Clyde, d’Arthur Penn, però el seu renom en el cinema està associat a Mel Brooks, de qui protagonitzà The Producers (1967, pel qual va ser nominat a l’Oscar), Blazing Saddles (1974) i el seu gran èxit, Young Frankenstein (1974), del guió del qual va ser coautor amb Brooks i pel qual van ser nominats a l’Oscar. Altres títols destacats de la seva carrera són Everything You Always Wanted to Know About Sex * But Were Afraid to Ask (1972), de Woody Allen, Silver Streak (1976), d’Arthur Hiller, Stir Crazy (1980) i Hanky Panky (1982), de Sidney Poitier. Dirigí i protagonitzà The Adventure of Sherlock Holmes’ Smarter Brother (1975), The World’s Greatest Lover (1977), The Woman in Red (1984) i Haunted Honeymoon (1986).