Després d’abandonar els estudis als quinze anys, treballà en feines diverses i s’allistà a l’exèrcit britànic, amb el qual serví a Corea durant la guerra (1950-53). De tornada a la Gran Bretanya, es dedicà al teatre, i el 1954 adopta el nom artístic de Michael Caine, inspirat en el film The Caine Mutiny. Interpretà el seu primer paper cinematogràfic en A Hill in Korea (1956), de Julian Aymes, però no fou fins a l’actuació a Zulu (1964), de Cy Endfield, que obtingué notorietat. Posteriorment es consolidà com un dels actors més valorats de la seva generació amb The Ipcress File (1965), de Sidney J. Furie, i Alfie (1966), de Lewis Gilbert. Posteriorment ha actuat en més d’un centenar de pel·lícules, part de les quals ocupen un lloc destacat en la història del cinema, entre d’altres Gambit (1966), de Ronald Neame; Hurry Sundown (1966), d’Otto Preminger; Sleuth (1972), de Joseph L. Mankiewicz; The Romantic Englishwoman (1975), de Joseph Losey; The Man Who Would Be King (1975), de John Huston; Dressed to Kill (1980), de Brian De Palma; Educating Rita (1983), de Lewis Gilbert; The Honorary Consul (1983), de John McKenzie; Hannah and Her Sisters (1987), de Woody Allen, per la qual obtingué l’Oscar al millor actor secundari; Dirty Rotten Scoundrels (1988), de Frank Oz; Jekyll & Hyde (1990), de David Wickes; Blood and Wine (1995), de Bob Rafelson, Concha de Plata al Festival de Sant Sebastià; Mandela and de Klerk (1997), de Joseph Sargent; Little Voice (1998), de Mark Herman; The Cider House Rules (1999), de Lasse Hallström, per la qual rebé el segon Oscar al millor actor secundari; Last Orders (2001), de Fred Schepisi; The Quiet American (2002), de Phillip Noyce; Secondhand Lions (2003), de Tim McCainles; Children of Men (2006), d’Alfonso Cuarón; The Dark Knight (2008), de Christopher Nolan; Harry Brown (2009), de Daniel Barber, i Youth (2015), de Paolo Sorrentino. Ha estat guardonat amb el premi honorífic Donostia (2000). L’any 2000 rebé el títol de Sir.