Fill d’un violinista de la New York Philharmonic Orchestra, estudià teoria, flauta i trompa. L’any 1943 s’inicià professionalment com a intèrpret de trompa a l’American Ballet Theatre i la Cincinnati Symphony Orchestra. Dos anys més tard ingressà a la Metropolitan Opera House de Nova York, on restà fins el 1959. Inicià les seves activitats en el jazz tocant la trompa en els enregistraments fets en 1949-50 amb Miles Davis. Al final dels anys cinquanta inicià la seva activitat compositiva en un estil que denominà third stream, que combinava elements de música clàssica i jazz. Així se succeïren les seves obres Transformation (1957), per a grup de jazz; Concertino (1959), per a quartet de jazz i orquestra; Abstraction (1959), per a nou instruments, i Variation on a Theme of Thelonious Monk (1960), per a tretze instruments, el qual fou gravat per O. Coleman, E. Dolphy i B. Evans. Més endavant treballà associat amb John Lewis, el qual, amb el Modern Jazz Quartet tocà i enregistrà diversos treballs de Schuller. Amb Lewis i Harold Farberman liderà la big band Orchestra U.S.A. (1962-65). Del 1967 al 1977 fou president del New England Conservatory. Promogué la música de Scott Joplin, Jelly Roll Morton, Duke Ellington i Paul Whiteman, tant preparant-ne edicions com transcrivint-la i interpretant-la. Entre els seus tractats musicològics destaca Early Jazz: its Roots and Musical Development (1968).