S’entén que l’adopció de recursos estructurals, instrumentals, melòdics o harmònics provinents de grans obres pretèrites es fa amb una perspectiva nova i personal, ja que si no s’estaria davant de la simple còpia o exercici d’estil (de valor només per a l’aprenentatge de la composició). Si bé la música habitualment anomenada ’clàssica’ és la dels grans compositors vienesos del final del segle XVIII i principi del XIX, els estils neoclàssics han escollit com a referència també les obres dels grans compositors barrocs i renaixentistes. Músiques que es puguin considerar neoclàssiques n’hi ha hagut en moltes èpoques, però el concepte és especialment útil quan es tracta d’alguns compositors del segle XIX i molt principalment del XX, és a dir, de les èpoques en què la consciència històrica del compositor ha tingut un paper més decisiu en la formació del seu llenguatge.
En un sentit ampli, poden considerarse neoclàssiques les manifestacions de l’estil barroc presents en compositors com F.J. Haydn o W.A. Mozart ("Coral dels dos homes armats", del 2n acte de La flauta màgica), però fins i tot es poden entendre com a tals les peces de F. Schubert que prenen clarament com a model obres de Haydn, Mozart o Beethoven. Al llarg del segle XIX hi ha compositors com F. Mendelssohn o J. Brahms que, pel seu coneixement més profund de la tècnica compositiva de períodes anteriors, i potser també per una certa nostàlgia del passat (que no deixa de ser ’romàntica'), són més propensos a caure en alguna forma de neoclassicisme. Obres com Els mestres cantaires de Nuremberg de R. Wagner són dins de l’esperit neoclàssic, però el primer moviment de la Simfonia núm. 4 de G. Mahler (1900) és potser una de les primeres manifestacions del neoclassicisme en el sentit que prengué al segle XX. Si als segles XVIII i XIX les imitacions de models del passat tenen invariablement el caràcter seriós propi d’un homenatge reverencial i sovint el llenguatge efectivament utilitzat és compatible amb el del seu model (pot comparar-se la fuga del Kyrie del Rèquiem de Mozart a les fugues corals de G.F. Händel, les quals emula), al segle XX el passat es veu, en la millor música neoclàssica, sota una nova perspectiva que no exclou la deformació i la paròdia. La Simfonia clàssica de S. Prokof’ev evoca els seus models en aquest sentit, però en obres d’I. Stravinsky la transformació de les referències originals és molt més radical. Durant els anys vint i trenta del segle XX el neoclassicisme fou el llenguatge compositiu més estès, sota formes molt diverses: els diferents retorns de Stravinsky foren durament criticats per A. Schönberg (per exemple en les Drei Satiren, ’Tres sàtires', opus 28), però les seves obres d’aquella època s’entenen també com una manifestació de neoclassicisme. Compositors com P. Hindemith, B. Bartók, E. Carter i molts altres han tingut les seves èpoques neoclàssiques. El llenguatge de les avantguardes exclou, en principi, aquest tipus de referències al passat, però, com en el cas de Schönberg, les tendències neoclàssiques poden arribar a manifestar-se de maneres insospitades: fins i tot una peça com la Segona sonata per a piano de P. Boulez pot considerar-se una obra neoclàssica.