Estudià teoria i composició amb S. Tanejev i A.S. Arenskij i anà becat a Sant Petersburg, on estudià amb N. Rimskij-Korsakov. De nou a Moscou, col·laborà amb K.S. Stanislavskij escrivint música escènica, i impartí classes a l’Institut Musical Gnesin. El 1901 acabà la primera òpera, Dobrin’a Nikitic, que fou estrenada el 1903, amb el baix F. Šal’apin en el principal paper. El 1925 s’establí a París i el 1939 emigrà als Estats Units. Des del 1940 fins a la seva mort visqué a Nova York. La música de Grecaninov mostra influències del Grup dels Cinc i de P.I. Cajkovskij, però també dels impressionistes francesos. Destaca sobretot per la música religiosa, en la qual usà melodies litúrgiques eslaves, llatines i fins i tot jueves, com en la Missa ecumènica, opus 142 (1939). També és notable la seva música per als infants. És autor de cinc simfonies i alguns concerts, com el Concert per a violoncel (1897) o el Concert per a flauta, arpa i cordes (1938). Entre les seves òperes destaquen Sor Beatrice, opus 50 (1910), basada en l’obra de M. Maeterlinck, estrenada i censurada el 1911, i El matrimoni, segons el llibre de N. Gogol’ (1946). També té nombroses peces per a piano i per a cor. És autor d’una autobiografia que fou publicada a Nova York el 1952.