Habitada ja a la fi del segon mil·lenni aC, fou anomenada Olímpia pels seus pobladors en recordança del mont Olimp. Visqué sempre a expenses del santuari —l'Altis sagrat—, que, dedicat d’antuvi a una divinitat femenina, esdevingué, a partir del primer mil·lenni aC, un dels llocs principals del culte de Zeus. Centre religiós i cultural del món grec antic (sobretot a causa de la implantació dels jocs olímpics, feta, segons la llegenda, per Hèracles mateix), ho fou també de l’esport, tant en el seu aspecte competitiu com en l’aspecte ètic i religiós. Hom creu que, a partir del 776 aC, tots els grecs s’hi aplegaren cada quatre anys per retre homenatge a l’esforç i a la bellesa del cos humà posats de manifest en uns exercicis vigorosos i durs, immortalitzats per Píndar. Aquest aplec constituïa alhora una ocasió per a l’intercanvi cultural (al costat dels jocs foren donades a conèixer les obres principals del pensament i de la literatura) i també l’econòmic i el polític. En ésser prohibits al s IV dC, la ciutat i el santuari caigueren en decadència. Els gots d’Alaric i un terratrèmol posterior enderrocaren els monuments, que, en el decurs dels segles, foren coberts pels al·luvions de l’Alfeu. El 1875 s’iniciaren els treballs d’excavació, dirigits per arqueòlegs alemanys. Han estat redescoberts els monuments de l’Altis sagrat (una àrea de forma quadrangular, delimitada pels rius Alfeu al S, el Cladeu a l’W i el pujol Croníon al N). S'hi destaquen el temple d’Hera (Herèon), el més antic del recinte, dòric, amfipròstil i hexàstil (a l’interior de la seva cel·la, fou trobada l’estàtua d’Hermes, atribuïda a Praxíteles), i el monumental temple de Zeus —que atresorava l’estàtua criselefantina del déu, obra de Fídies—, construït entre el 470 i el 456 aC per Livó d’Èlide, dòric, amfipròstil i perípter, amb els relleus escultòrics dels frontons que representen la lluita entre Pèlops i Enomau, amb Zeus al centre, i el combat dels centaures i els làpites, amb Apol·lo també al centre. Aquests relleus —que constitueixen un dels cims de l’escultura grega— i les mètopes, així com la Níkē de Peònios, situada davant el temple, són conservats al museu vell. Hi ha encara altres edificis i monuments dins l’Altis: al damunt d’una terrassa artificial als peus del Croníon s’arrengleren la monumental exedra o nimfeu d’Herodes Àtic i els tresors de les diverses ciutats; el Filippèon o templet circular fet construir per FilipV de Macedònia davant el temple d’Hera, el Pritanèon, el pòrtic sud, el buleuteri, el pòrtic d’Eco, que flanquejava l’entrada a l’estadi, al costat del qual hom suposa que degué existir l’hipòdrom. A l’altra banda de les muralles de l'Altis hom troba encara el gimnàs, la palestra, sòbria i elegant, la casa dels sacerdots i el taller de Fídies (convertit en basílica cristiana vers el s V) i el Leonidèon. Olímpia constitueix un dels centres arqueològics més importants de Grècia i del món antic.