Tingué la seu als locals del Conservatori Superior Municipal de Música, al carrer del Bruc. Sota la direcció del professor Josep Ricart i Matas, hi aplegà diverses col·leccions, especialment la de Joaquim Folch i Torres i de la seva muller, Orsina Baget i Terrés, de 198 instruments antics, una valuosa col·lecció de guitarres i un gran nombre d’instruments populars i cultes antics. Successivament arribaren al museu fons i altres peces singulars representatives de la cultura europea i d’altres més llunyanes. L’any 1969 la col·lecció principal disposava ja de 966 instruments. El 1970, sota la direcció de Manuel Valls i Gorina, s’adquirí la col·lecció Arellano de fonògrafs i gramòfons.
Com a conseqüència del creixement del conservatori, el 1980 el museu es traslladà a la Casa Quadras, edifici modernista de Puig i Cadafalch, i el 1983 es reinaugurà amb el nom de Museu de la Música de Barcelona.