Fou inaugurat a l’Acadèmia de Belles Arts de Sant Carles de València, i fins el 1882 la docència s’impartí a la seu de la Societat i a l’Escola d’Artesans. Aquest any s’instal·là en un edifici de la plaça de Sant Esteve que, al segle XX, amplià les dependències. El 1979 es traslladà finalment a un edifici contigu a la Universitat Politècnica de València. El 2010 inaugurà una nova seu. Per a la creació del conservatori foren figures clau els mestres Salvador Giner i Josep Maria Úbeda, que en foren professors i també el primer i el segon director, respectivament. Fou declarat conservatori oficial el 1911, i sota Ramon Martínez Carrasco el 1917 passà a tenir categoria estatal, el 1942 categoria professional i el 1968 superior. El 1991 adoptà el nom actual en reconeixement al mestre Rodrigo i el 1995 establí un laboratori d’electroacústica. L’any 1997, per desdoblament del Conservatori Superior, es creà el Conservatori Professional, que passà a allotjar-se al local original de la plaça de Sant Esteve, prèviament rehabilitat per la Generalitat Valenciana. Des del 2007 forma part de l’Institut Superior d’Ensenyaments Artístics de la Generalitat Valenciana. Des dels seus inicis coordinà nombroses activitats amb diferents entitats musicals i culturals valencianes, com Lo Rat-Penat, la Societat Filharmònica de València, les Joventuts Musicals, la Caixa d’Estalvis de València, i amb diverses escoles públiques. A més d’Úbeda, Giner i Martínez, altres directors destacats han estat M. Palau, J. Roca, L. Tello, D. de Nueda, A. Blanquer, S. Seguí i J.M. Cervera. Entre els seus alumnes hi ha hagut músics reconeguts com J. Serrano, M. Asins, F. Cuesta, l’esmentat Rodrigo, V. Garcia, E. Iturbi, L. Bori, M. Ros, L. Querol, E. López-Chavarri, J. Soriano, P. Garcia, M. Monreal, V. Zarzo, M.A. Benimeli i M. Galduf.
Institució fundada el 1879 per la Societat Econòmica d’Amics del País Valencià, amb l’ajuda de la diputació i de l’ajuntament.