Fou alumne i membre del cor de la catedral de Canterbury. Continuà la seva formació musical al New College d’Oxford (on el seu germà Stephen era organista) i, posteriorment, a la Royal Academy of Music. Del 1835 al 1882 ocupà el lloc d’organista de la Saint George Chapell de Windsor. Allà fundà la Windsor Glee and Madrigal Society i la Windsor and Eton Choral Society. Fou nomenat sir el 1871, després de compondre l’obra Festival March amb motiu del casament de la princesa Louise. La major part de la seva producció se centrà en la música litúrgica, i els seus oratoris seguiren els models de G.F. Händel i F. Mendelssohn. La seva popularitat s’ha mantingut gràcies als himnes Saint George i Diademata.