Frankfurt és mencionada per primera vegada en els textos l’any 794. La ciutat, però, començà a créixer i desenvolupar-se sota el regne de Conrad III de Germània, al segle XII. Els documents conservats sobre l’activitat musical a Frankfurt durant l’Edat Mitjana són escassos. Un missal en notació neumàtica del segle XI i el missal en notació gòtica, conegut com el Missale Rorbach (1460), són els dos documents més importants conservats. En el camp de la música profana, Frankfurt esdevingué un centre musical de prestigi a partir del segle XIV, en què les seves fires es convertiren en les més importants de la regió, fet que contribuí a l’aparició de gran quantitat de trobadors, els anomenats spielleute, que animaven aquestes fires. La cerimònia del Pfeifergericht ('el jurat de músics') esdevingué cèlebre, i probablement es tractava d’un concurs entre les bandes municipals de les ciutats més properes. Durant els segles XV i XVI la ciutat es decantà més pel comerç i l’intercanvi comercial que no pas per la cultura. Els intents del metge il·lustrat Johann von Soest (1448-1506) per promoure la difusió de la música polifònica produïda als Països Baixos també fracassaren. Aquest clima poc favorable explica que el corrent humanista tampoc no tingués gaire ressò a la ciutat. En tot el període humanista només hi treballà un únic teòric important: Johannes Cochlaeus, que fou degà de la Liebfrauenstift ('Fundació del cant femení') del 1520 al 1524. Al començament del segle XVI el nou mercat que s’obrí entorn dels llibres i les partitures es convertí en un terreny interessant de negoci gràcies a la fira. Si la música no havia atret gaire els ciutadans de Frankfurt, el negoci de la música semblà interessar-los molt més, i aviat la ciutat es convertí en un centre de l’edició i l’estampació de partitures. De fet, per a la creació d’una mínima infraestructura musical a la ciutat calgué esperar l’empenta de J.A. Herbst (1588-1666), que instituí un cor a cappella de cantants professionals, i un segon cor amb instrumentistes. Herbst, que fou un important compositor de música sacra, també s’ocupà de restaurar el vell orgue de l’església dels Descalços. Un altre impuls decisiu fou la creació, a mitjan segle XVII, del Collegium Musicum.
La vida musical de Frankfurt assolí la seva màxima esplendor amb l’arribada de Georg Philip Telemann, que impulsà gran nombre d’iniciatives musicals entre els anys 1712 i 1721. Les seves cent cantates, que es conserven a les biblioteques municipal i universitària de la ciutat, són el testimoni més evident de l’activitat frenètica del mestre, que fou director municipal, mestre de capella a les esglésies dels Descalços i de Santa Caterina, i també director del Collegium Musicum. El primer teatre de Frankfurt, el Frankurter Komödienhaus, fou inagurat el 1782. El 1792 nasqué l’important Nationalbühne ('Teatre Nacional'), sorgit com una societat d’accionistes. Les òperes de Mozart tingueren una bona acollida a la ciutat, i ja als anys vuitanta del segle XVIII foren programades sovint en aquests teatres.
A l’inici del segle XIX una nova classe emergent, amb molts recursos, volgué demostrar el seu poder amb la creació d’institucions culturals, com ho demostren la fundació del Museum (1808), i de la Societat Cecilianista (1818) per J.N. Schelbe. Ambdues institucions continuen essent avui dia associacions d’organització de concerts de gran prestigi. Aquestes institucions facilitaren l’estrena a la ciutat de les simfonies de L. van Beethoven gràcies a Ludwig Spohr. Paral·lelament es creà la Fundació Mozart, que becà músics tan importants com M. Bruch o E. Humperdinck. La sala de concerts adequada per a acollir tota aquesta activitat es feu esperar fins el 1861, any de la construcció de la Saalbau. El 1878 s’inaugurà el Dr. Hoch’s Konservatorium. En aquest conservatori impartiren classe, entre d’altres, Clara Schumann, J. Stockhausen o E. Humperdinck. Entre els alumnes il·lustres destacaren H. Pfitzner, E. Toch, P. Hindemith, O. Klemperer i H. Rosbaud.
L’Òpera de Frankfurt fou inaugurada el 1880, i durant la primera dècada del segle XX el repertori se centrà en les òperes de R. Wagner i G. Verdi. Als anys vint, sota la direcció de L. Rottenberg, l’Òpera acollí espectacles d’avantguarda de F. Schreker, P. Hindemith o B. Bartók. El 1921 M. Bauer fundà el seminari de musicologia de la universitat (Musikwissenschaftliches Seminar), que des del 1935 és conegut pel nom d’Institut de Musicologia (Musikwissentschaftliches Institut). Als anys seixanta, el filòsof i musicòleg Th. W. Adorno impartí a la universitat un seguit de cursos de filosofia i musicologia, que influïren de manera clara en els compositors més radicals de l’avantguarda germànica, com ara H.F. Lachenmann o M. Spahlinger.
Durant la Segona Guerra Mundial la ciutat va perdre totes les sales de concert. Després de la contesa bèl·lica s’inicià la reconstrucció del teatre de l’òpera que, amb el nom d’Alte Oper (antiga òpera), fou inaugurat el 1981, però només com a sala de concerts. Paral·lelament s’inicià la construcció d’un complex de sales d’espectacle (Städtische Bühnen) que comprenia una sala de teatre, una sala polivalent de cambra i una sala per a òpera. Aquesta darrera, amb el nom d’Oper Frankfurt, fou inaugurada el 1951. L’Òpera de Frankfurt ha tingut directors com G. Solti (1952-61), L. von Matacic (1961-66), C. von Dohnányi (1967-77), M. Gielen (1977-87), G. Bertini (1987-90) i S. Cambreling (1993-96). Des del 1999 la dirigeix P. Carignani. L’any 1987 un incendi destruí totalment la sala d’òpera, que fou reoberta, totalment modernitzada, l’any 1991. Les dues orquestres més importants en actiu són l’Orquestra del Museum i l’Orquestra Simfònica de la Ràdio de Frankfurt. D’altra banda, hi ha un teixit important d’orquestres de cambra, entre les quals el Concerto Grosso Frankfurt, el Deutsches Kammerorchester Frankfurt o el conjunt Sinfonova Frankfurt. La ciutat disposa també d’una xarxa de biblioteques i arxius envejable. Les més importants són la seu del RISM, sigles franceses de Répertoire International des Sources Musicales, la biblioteca del Musikwissenschaftliches Institut i l’Institut Paul Hindemith, dedicat a la cura del llegat d’aquest autor.