Passà la infantesa a Califòrnia, i del 1900 al 1902 visqué a Leipzig. Tocà la viola amb l’Orquestra Simfònica de Los Angeles entre el 1909 i el 1919, activitat que compaginava, a San Francisco, amb feines en sales de cinema, teatres de vodevil i cabarets, i amb conjunts de ragtime. El 1917, i fins l’any 1933, fou contractat per Paul Whiteman com a arranjador, la qual cosa el convertí en una de les figures capdavanteres del jazz simfònic de l’època per la seva capacitat de barrejar la complexitat de la música clàssica amb els ritmes sincopats de les orquestres negres. Es feu cèlebre el 1924 quan el conjunt de Whiteman estrenà el seu arranjament de la Rhapsody in Blue, de G. Gershwin. Del 1939 al 1942 ensenyà composició i arranjament a la Juilliard School of Music de Nova York. Les seves obres crearen un pont entre l’escriptura orquestral europea tradicional i les formes jazzístiques primerenques, en una època en què semblaven poc atractives o un xic vulgars. Grofé aconseguí trobar la manera de fer conviure la sofisticació i l’elegància europees amb els ritmes enèrgics de la música popular nord-americana. Els seus títols més coneguts són la Grand Canyon Suite (1931), per a orquestra, i el Lincoln Portrait (1962), per a banda. Compongué també dos ballets, peces de jazz, obres per a banda de metall, peces de cambra i cançons diverses.