Estudià piano a l’Acadèmia de Santa Cecília de Roma i posteriorment amplià els seus coneixements al Conservatori de Música de Milà. Ben aviat destacà en el camp de la direcció operística, especialment d’òperes italianes del segle XIX i el començament del XX. Home de gustos amplis i variats, també s’interessà per la música contemporània italiana, sobretot per l’obra de L. Dallapiccola, G.F. Malipiero i G. Petrassi, i també per la música simfònica d’A. Bruckner. En els seus inicis Gavazzeni compaginà la tasca de direcció amb la composició, i algunes de les seves obres, com la cantata Canti per Sant’Alessandro (1934) i l’òpera Paolo e Virginia (1935), tingueren una bona acollida. A partir del 1949, però, abandonà la composició i no permeté cap altra interpretació pública de la seva música. Exercí la crítica en diverses publicacions, entre d’altres "Il corriere della sera", i són notables les seves aportacions a la musicologia, amb obres com Non eseguire Beethoven e altri scritti (Milà, 1974). Entre el 1965 i el 1968 fou director artístic del Teatro alla Scala de Milà i també treballà al Chicago Lyric Opera, a la Metropolitan Opera House de Nova York i al Teatre Bol’šoj de Moscou.