Es troba a la vall d’Atarés, en una balma, sota una gran penya, que li ha donat el nom. Era un lloc habitat per eremites quan el 920 el comte Galí III Asnar d’Aragó hi fundà un monestir dedicat a sant Julià i santa Basilissa, que regí l’abat Transiric. El nou monestir decaigué molt aviat; en resta, però, l’església, de tipus mossàrab, que ara serveix de cripta a l’església superior.
El 1071 el rei Sanç III Ramires, amb l’ajuda de l’abat Hug de Cluny i amb monjos d’aquesta abadia, hi fundà el monestir actual de Sant Joan, per al qual hom construí l’església superior, consagrada el 1094, i en fou el primer abat Aquilí (1071-75). El 1071 hi fou abolit el ritu hispànic i imposat el romà. El 1076 el rei fundador li uní les antigues abadies de San Juan, prop de Tiermas, Ciella, Cercito, Fuenfría i San Juan de Matidero, que es convertiren en priorats seus. El monestir fou objecte de moltes altres donacions de reis i nobles i es convertí en el panteó reial. La seva esplendor durà fins a mitjan segle XII, quan el trasllat de la capitalitat del regne de Jaca a Osca i a Saragossa el deixà força isolat. Malgrat tot, l’abat posseïa unes 150 esglésies als bisbats de Jaca-Osca, Pamplona i Saragossa i jurisdicció sobre 23 poblacions, cosa que fou causa de molts de plets amb els bisbes d’aquelles diòcesis i portaren el monestir quasi a la ruïna. El 1157 el redreçaren el papa Adrià III i el comte príncep Ramon Berenguer IV de Barcelona. Al principi del segle XII es feu l’obra del panteó dels nobles, i a mitjan segle, el magnífic claustre romànic, sota la balma. El 1433 l’abat Marquès feu construir la capella de Sant Victorià prop del claustre, i el 1631 l’abat Briz Martínez, historiador del cenobi, feu construir la capella dels sants Joan d’Atarés, Voto i Feliu, que segons tradició foren els primers ermitans del lloc. La comunitat es componia al segle XVI de 15 monjos i l’abat; en formaven part els priors d’Acumuer, Ciella, Nabal, Luesia, Salvatierra i Estella.
L’incendi del 1675 decidí la construcció d’un nou monestir al pla de Panno, sobre la Penya, que s’edificà entre el 1693 i el 1714. La comunitat s’hi traslladà el 1682 i hi residí fins a l’exclaustració del 1835. El nou monestir, obra principalment de l’arquitecte Miguel Ximenez, és d’estil barroc neoclàssic. Per l’envergadura del projecte original, aquest no fou finalitzat totalment. La façana és l’element més destacat per l’exuberància de la decoració vegetal i la representació dels tres sants molt vinculats amb la comunitat religiosa que visqué al monestir. Restaurat el conjunt en els darrers anys del segle XX, acull una hostatgeria, el Centre d’Interpretació del Regne d’Aragó i el Centre d’Interpretació del Monestir de Sant Joan de la Penya.
El vell monestir és monument nacional, i també ha estat restaurat. Hi destaca el panteó reial, que fou renovat el 1770 per Carles III amb una capella neoclàssica de marbres i relleus, amb 27 plaques de bronze amb el nom dels reis enterrats.