El 1935 anà als Estats Units, i estudià a la Universitat de Pennsilvània i al MIT, on es graduà el 1940, i posteriorment a la Universitat de Harvard, on obtingué el títol l’any 1946. El 1955 fundà el seu propi estudi, I.M. Pei & Associates, la direcció del qual cedí gradualment a dos dels seus fills des del 1992, sota el nom de Pei Partnership Architectes. En la línia de l’estil internacional, en els seus edificis destaquen la combinació de figures geomètriques i el joc entre plans espacials: Escola de Periodisme a Syracuse (1964), Biblioteca J.F. Kennedy de la Universitat de Harvard (1964), Centre d’Investigacions Atmosfèriques a Boulder, Colorado (1967), torres Silver de Nova York (1967), Everson Museum of Art de Syracuse (1968), aeroport J.F. Kennedy de Nova York (1970), torre John Hancock de Boston (1975), els problemes de construcció de la qual posaren en greus dificultats el seu estudi, i l’edifici est de la National Gallery of Art de Washington (1978). Amb l’hotel Fragrance de Pequín (1980), inicià una intensa relació amb el seu país d’origen que no es limità als encàrrecs, sinó que destacà sobretot per promoure-hi l’arquitectura. Així, amb la dotació del premi Pritzker, que rebé el 1983, establí una fundació de beques per a estudiants xinesos. Posteriorment projectà el Jacob Javits Convention Center de Nova York (1986), l’ampliació del Musée du Louvre coberta amb una piràmide de vidre i acer (1986-89), la torre del Bank of China de Hong Kong (1982-90), el Rock & Roll Hall of Fame a Cleveland (1995), el Museu d’Art Islàmic a Doha (2008), etc. A més del premi Pritzker, rebé la Medalla d’Or de l’American Institute of Architects (1979), la Medalla Presidencial de la Llibertat (1992) i la Medalla d’Or del Royal Institute of British Architects (2010).