Inicià la seva formació musical de molt petit i fou alumne dels compositors Walter Parratt, James Higgs i Hubert Parry. Més tard ingressà a Oxford, on el 1898 es graduà al Balliol College. La seva reputació com a compositor i intèrpret començà a créixer en el període del canvi de segle i el 1914 obtingué la Càtedra Reid de Música de la Universitat d’Edimburg. Tres anys després fundà l’Orquestra Reid, formació que dirigí i amb la qual oferí uns programes amb intencions pedagògiques per al públic. Per a aquests concerts, ell mateix escrivia unes ressenyes sobre la programació presentada, en què exposava les seves idees sobre música. Aquests escrits foren recollits, de manera més sistematitzada, en Essays in Musical Analysis (1935-39). Les composicions de Tovey revelen molt d’ofici, però no han quedat en el repertori concertístic. En el seu catàleg destaquen el concert per a piano i el de violoncel i l’òpera The Bride of Dionysus. Els seus llibres sobre anàlisi musical, escrits amb un magnífic estil literari, romanen encara com una referència important malgrat els molts canvis que hi ha hagut en aquesta disciplina des de la seva època. L’aproximació no dogmàtica a les composicions analitzades, l’extraordinària intel·ligència de les seves observacions i la insistència en els trets de l’estructura musical com a fets reconeixibles en l’audició, i no en l’abstracció analítica, fan de Tovey un dels grans pensadors musicals del segle XX. Entre els seus llibres més importants poden esmentar-se A Companion to the Art of Fugue, Essays and Lectures on Music i la monografia inacabada sobre L. van Beethoven.