El seu primer director fou l’italià Francesco Piermarini, nomenat directament per la reina, fet molt criticat pel món musical espanyol, que proposava un director del país, com R. Carnicer o M. Rodríguez de Ledesma. Es nomenaren també professors honorífics, com G. Rossini, i els adictosde honor, una mena de protectors la major part dels quals eren membres de la cort o l’aristocràcia. Entre els professors que inauguraren el centre destaquen P. Albéniz, B.S. Saldoni i R. Carnicer. El 1852, el conservatori es traslladà al Teatro Real, on romangué fins el 1925. D’aquesta època destaquen els directors V. de la Vega, J. Romea o J. de Lerma, amb el qual Felip Pedrell entrà al claustre de professors. El 1857 es dictà el reglament que dividia les ensenyances musicals en estudis superiors i estudis d’aplicació. Entre els anys 1925 i 1966, el conservatori passà per situacions difícils i no tingué una seu estable. No obstant això, quan Federico Sopeña fou nomenat delegat del govern el 1952, aconseguí inaugurar una fonoteca i crear la revista "Música", dirigida des del conservatori amb la col·laboració de l’Instituto Español de Musicología. El 1966 tornà al Teatro Real, fins el 1990, que fou inaugurada la nova i actual seu a l’edifici de l’antic Hospital de San Carlos, a Atocha. El nou edifici consta de 40 aules, 27 cabines d’estudi i dos auditoris, i inclou a més una important biblioteca, que comprèn més de 130 000 títols, 11 000 manuscrits i 2 000 hores de música gravada. Dirigit per Miguel del Barco des del 1988, s’hi pot cursar pedagogia del solfeig, cant, música de cambra i composició, direcció d’orquestra i de cors, musicologia i pedagogia musical.