A l’antiguitat fou una de les ciutats estat més importants del Peloponès i de la cultura grega clàssica, en la qual la música tenia un paper important. Va ser objecte de l’atenció de grans pensadors, els quals en van deixar un notable corpus teòric que ha arribat fins a l’època actual, el més antic dels quals data del segle IV aC.
Després de la caiguda de l’imperi Romà d’Occident, Grècia es mantingué tan estretament lligada a Bizanci, que la música grega de l’època quedà inclosa dins l’anomenada músicabizantina. A partir de la caiguda de l’imperi Bizantí en mans otomanes, el 1453, la sort d’Atenes fou la mateixa que la de tot Grècia, que quedà sota dominació turca durant quatre segles. El país s’alliberà del jou turc el 1829 i, el 1834, Atenes fou declarada capital del regne. A partir d’aleshores, la ciutat es convertí en el centre de la reconstrucció de la vida musical del nou Estat amb la creació gradual d’institucions com ara escoles, teatres i sales de concerts. El 1840 es creà el primer teatre atenenc, on actuaren moltes companyies italianes d’òpera. De mica en mica, l’òpera es va anar guanyant un públic fidel entre els atenesos. L’òpera italiana dominà durant molt de temps els escenaris, però també s’estrenaren obres de compositors grecs, moltes de les quals eren una exaltació de la lluita del poble grec contra l’invasor turc. El 1916 es creà un segon teatre d’òpera, l’Olímpia. El 1871 es fundaren el Conservatori d’Atenes (l’Odeion), institució fonamental per al desenvolupament futur de la vida musical a Grècia. Georgios Nazos (1862-1934) creà el 1894 l’Orquestra Simfònica del Conservatori i diverses escoles dramàtiques i d’òpera. Entre el 1899 i el 1919 entrà en funcionament un nou conservatori, on es constituí el primer cor grec mixt que interpretà obres corals europees, i una de les primeres publicacions musicals de Grècia, "Apollo" (1904-09). Centrada a Atenes, l’activitat del pianista i compositor Manolis Kalomiris (1883-1963) és considerada una de les aportacions cabdals de la reconstrucció cultural grega. El 1919 Kalomiris i altres professors crearen el Conservatori Hel·lènic, destinat a difondre la música grega per tot el país, i el 1926 en creà encara un altre, el Conservatori Nacional.
Després de la Segona Guerra Mundial, els teatres, les sales de concerts i la Ràdio Nacional d’Atenes tingueren un paper decisiu a l’hora de donar a conèixer les obres de nous compositors com A. Nezeritis, N. Skalkottas, I.A. Papaioannu i, posteriorment, de Y. Ioannidis, T. Antoniou, S. Gazuleas i I. Xenakis. El Festival de Música d’Atenes, celebrat anualment des del 1955, atreu públic d’arreu del món.