Els àrabs l’ocuparen el 711, i el 1236 Ferran III de Castella la conquerí. Abderraman I (? 731-Còrdova 788), primer emir independent de l’Àndalus, i els seus successors convertiren Còrdova en un centre cultural important. La ciutat tenia una madrassa, centre d’ensenyament religiós dels països islàmics, on la música formava part dels estudis. Entre els músics de la cort destacà Ziryab (segle IX), provinent de Bagdad i que portà a la cort les influències orientals.
Ferran III reconvertí la mesquita en catedral, i en la seva organització, des del principi, es concedí molta importància a la música. L’època de màxima esplendor, tant pel que fa a la música religiosa com profana, fou el segle XVI. El càrrec de mestre de capella de la seu fou ocupat durant aquest segle per músics com Martín de la Fuente, Álvaro de Cervantes o Rodrigo de Ceballos. Còrdova també donà alguns músics notables, com ara Diego Fernández, mestre de capella a Màlaga, Fernando de las Infantas, gran compositor de motets polifònics, Antonio de Córdoba i Francisco Chacón, aquest darrer autor de madrigals i organista de la catedral.
Els segles XVII i XVIII foren èpoques d’una certa decadència per a la ciutat. La seva represa cultural no tingué lloc fins al segle XIX. Entre les entitats creades durant aquest període destaca el Liceo Artístico y Literario (1844), on F. Liszt oferí un recital. Una de les personalitats més destacables de la Còrdova del final del segle XVIII i el començament del XIX, tant pel que fa a la música religiosa com a la profana, fou Jaume Balius, músic català i mestre de capella de la catedral entre el 1785 i el 1787 i entre el 1789 i el 1822. El nacionalisme musical donà a Còrdova diversos compositors, els més notables dels quals foren Eduardo Lucena, Cipriano Martínez Rücker i José Molina León. Lucena creà el Real Centro Filarmónico (1878), que després de la seva mort passà a anomenar-se Real Centro Filarmónico Eduardo Lucena. Es construïren dos grans teatres, el Teatro Principal (1810) i el Gran Teatro (1873). La primera formació orquestral cordovesa fou la Banda Municipal de Còrdova, nascuda al final del segle XIX i germen de l’Orquestra Ciutat de Còrdova (1986). L’Escuela Provincial de Bellas Artes fundà, a la darreria del segle XIX, una secció de música que més tard es transformà en el Conservatorio Provincial. Al començament del segle XX es creà la Sociedad Filarmónica, gran promotora de concerts.
Durant el segle XX la vida musical experimentà un gran impuls en tots els àmbits. Sorgiren publicacions musicals, com ara el "Boletín Musical", començaren les temporades regulars d’òpera, ballet i concerts al Gran Teatro i el 1992 l’Orquestra Ciutat de Còrdova es transformà en l’Orquestra de Còrdova. El principal centre d’ensenyament musical és el Conservatorio Provincial de Música, que el 1972 es convertí en superior. A part de les temporades operístiques, el Festival Internacional de Guitarra és l’altre esdeveniment musical més important de la ciutat.