Des de molt jove començà a rebre formació musical. Estudià orgue amb Johann Bernhard Bach i Johann Andreas Kretschmar, i el 1702 era primer organista a l’església de Sant Tomàs d’Erfurt. Més tard, a Weimar, fou organista i professor de música del príncep Johann Ernst. En aquesta ciutat estigué en relació amb el seu cosí, J.S. Bach, que llavors treballava a la cort. Walther fou una figura important en la història de la música barroca alemanya. El 1732 publicà el seu Musicalisches Lexicon, el primer gran diccionari en alemany que incloïa tant termes musicals com biografies de músics. Com a teòric, destacà pel seu manual d’instrucció musical, possiblement redactat per al seu protector reial, titulat Praecepta der musicalischen Composition (1708), una compilació de la teoria musical del segle XVII. Aquest llibre conté una part denominada Musicae Poëticae que ofereix una relació de preceptes sobre l’art de la composició i també importants explicacions sobre les figures retoricomusicals que tanta influència tingueren més tard sobre la pràctica compositiva dels músics alemanys barrocs. Com a compositor, escriví gairebé 100 obres corals religioses, moltes de les quals s’han perdut, i uns 100 preludis corals per a orgue, que són una mostra de la tècnica de la variació coral desenvolupada pels autors alemanys des de J. Pachelbel fins a J.S. Bach.