Alumne de l’Escola Alemanya a Moscou, entrà al conservatori d’aquesta ciutat el 1889 per estudiar violí i composició, assignatura aquesta darrera que cursà amb A.S. Arenskij i S. Tanejev. S’establí a Berlín el 1897, on impartí classes al conservatori fins el 1934, any en el qual es jubilà per raons de salut. Les seves obres primerenques revelen la influència de P.I. Cajkovskij, A. Dvorák i també del Romanticisme alemany. La influència germànica es fa especialment patent en la seva música de cambra, fins al punt que se l’anomenà el Brahms rus. Formalment les obres de Juon sempre foren tradicionals i no s’allunyà conceptualment de l’estètica romàntica, sobretot en les peces de gran format, ni de la música popular russa, molt present en les seves melodies. Escriví bàsicament música orquestral i de cambra.