A nou anys estudià solfeig i quan en tenia onze s’inicià en el violí; amplià estudis amb Berini, violí solista de l’orquestra del Teatre de la Santa Creu. A setze anys es traslladà a Marsella, on feu de violinista mentre prosseguia la seva formació. Més tard, instal·lat a París, estudià amb H. Colet i obtingué la plaça de violinista de l’Òpera Còmica. Després d’ocupar aquest càrrec durant quinze anys tornà a Barcelona, on, juntament amb el seu germà Pere, fundà la societat dramaticomusical Euterpe y Talía i la societat musical Concierto Barcelonés (1848). A partir d’aquestes experiències, el 1853 crearen l’Orfeón Barcelonés, seguint el model d’ensenyament de Guillaume-Louis Wilhem, que Joan havia conegut a la capital francesa. Amb aquesta entitat coral, els germans Tolosa establiren una forta rivalitat amb Clavé i el 1863 esclatà entre ells una dura polèmica a través dels respectius mitjans de comunicació: "El Orfeón Español" i "El Metrónomo". El 1867 l’Orfeón Barcelonés desaparegué de l’escena musical catalana i Joan Tolosa continuà dedicant-se a la direcció orquestral. Els germans Tolosa nodriren de molta obra coral l’Orfeón i les altres entitats que el seguiren.