Es formà al Conservatori de Milà i començà a treballar en l’Orquestra de la Scala com a violinista i, ocasionalment, violista. Graduat el 1898, el 1903 feu el seu debut com a director d’orquestra a Ferrara. Posteriorment treballà com a director substitut a la Scala, on la seva feina fou molt valorada per A. Toscanini, que feu possible la seva promoció. Així, el 1907 es presentà al Covent Garden, i dos anys després fou nomenat director principal de la Scala, on romangué fins el 1914, i en 1917-18. Dirigí al Metropolitan de Nova York (1924-34), a l’Òpera de Roma (1934-43 i el 1962) i a l’Òpera de Chicago (1956-58), sense abandonar els lligams que l’unien amb la Scala, escenari on actuà el 1946 com a director artístic. Serafin donà a conèixer noves òperes, especialment del repertori italià, i feu possible la seva divulgació tant a Europa com a Amèrica. Moltes d’aquestes obres les enregistrà amb els millors cantants del moment, que el tenien per un autèntic guia i mestre.