Té el seu origen en les Joventuts Musicals fundades a Bèlgica el 1940. El 1951 es fundaren les Joventuts Musicals de Barcelona i, posteriorment, es crearen delegacions a València (1953), Terrassa (1954), Sabadell (1956), Palma (1956), Mataró (1956), Ciutadella (1958), Igualada (1958), Manresa (1959), Maó (1959), Tàrrega (1959), Badalona (1960), Tarragona (1962), Vilafranca del Penedès (1962), Granollers (1963), Berga (1966), Súria (1966), Sóller (1966), Pollença (1966), Solsona (1968), Olot (1969), Figueres (1972), Martorell (1972), Sitges (1972), Vilanova i la Geltrú (1974), Sant Celoni (1974), Ferreries (1974) i Alaior (1975). El 1986 es creà la Federació de Joventuts Musicals de Catalunya, on s’apleguen una cinquantena d’associacions, cadascuna de les quals desenvolupa també les seves activitats pròpies: cicles de concerts, concursos específics, cursos i altres activitats.
Entre les primeres activitats organitzades cal destacar el cicle d’audicions per a la Iniciació Musical dels Escolars, a partir del 1962, promoguda per les Joventuts Musicals de Barcelona. Posteriorment, les diferents delegacions han impulsat la creació del Festival Internacional de Música de Barcelona (1963-75), les Serenates d’Estiu (1965), el Cicle de Música (1978-84), el Festival Internacional de Música de Torroella de Montgrí (des del 1980), la Schubertíada (des del 1992), la Xarxa de Música Clàssica a Catalunya (1995) —anomenada Xarxa de Músiques a Catalunya, un cop s’obrí a altres estils musicals, com el jazz i les músiques d’arrel popular—, el Festival de Piano de Vilafranca del Penedès (des del 1975), el Festival Montserrat Alavedra de Música de Cambra, de Terrassa (des del 1992), el Cicle “Ricard Viñas” (1999-2000), l’Ethno Catalonia, el Fringe Torroella (des del 2013) dirigit a joves intèrprets d’arreu del món (amb col·laboració europea), Cicle de concerts “Joves & Clàssica / Nous Valors”, Cicle “Nous Repertoris — Música XXI” (plataforma d’estrena de noves obres).
També ha instaurat el Concurs de Joves Compositors (1992-2002) —Premi Internacional Frederic Mompou (internacional, des del 2003)—; el premi Compositor Resident de la Xarxa (des del 2015) —en col·laboració amb la Fundació de Música Ferrer-Salat—, el Premi Step de Jazz, Premi la Flama, entre d’altres.
Els presidents de les JMC han estat Esteve M. Costajussà i Relat (fins al 2013), Mònica Pagès i Santacana (2013-2017) i, des del 2017 Joan Magrané i Figuera.