És situat en un vistós edifici bastit pels arquitectes Renzo Piano i Richard Rogers, als quals fou adjudicada la construcció després d’un concurs internacional (1971). Respon a una iniciativa del president Pompidou manifestada des del 1969, i fou inaugurat l’any 1977. A més d’ésser un important arxiu documental (biblioteca, hemeroteca, centre de disseny, discoteca, fototeca, material audiovisual, etc.), organitza nombroses activitats, com exposicions antològiques i revisions dels moviments artístics d’aquest segle. Du també la gestió del Museu Nacional d’Art Modern. Convertit en fogar important d’atracció turística, ha servit en l’aspecte urbanístic per a donar un caràcter nou i molt diferent al barri on es troba. En 1999-2000 fou objecte d’una remodelació a fons a càrrec del mateix R. Piano.
El maig del 2010 fou inaugurada una delegació del Centre a Metz, primer pas d’un pla del govern francès destinat a descentralitzar els museus de París. L’edifici del nou museu, de línies curvilínies i recobert per una membrana, és obra de l’arquitecte japonès Shigeru Ban, i té una superfície de 12.000 m2 que acullen espais per a tota mena d’activitats culturals, a més d’exposicions.
El març del 2025 es tancaren dues plantes de la col·lecció permanent de la seu parisenca, amb la previsió de tancar totalment el centre el mes de setembre, per a dur a terme una rehabilitació integral de l’edifici, on han aparegut problemes tècnics, amb unes obres que es preveu que durin uns cinc anys, segons un projecte liderat per l’estudi francojaponès d’arquitectes Moreau Kusunoki. Està previst que el museu torni a obrir el 2030.