Estudià matemàtiques i música a Cambridge. L’any 1882 emigrà a Austràlia, on el 1889 fou nomenat organista assistent a la catedral d’Adelaide i codirector de l’Adelaide College of Music. El 1892 tornà a Anglaterra. Fou mestre a la Ludgrove Preparatory School (1893-1910) i director del Hampstead Conservatory (1896-1905). Centrà la seva recerca en la música popular, recerca que culminà amb l’obra English Folk Song: Some Conclusions (Londres, 1907). La seva contribució fou molt important per a la preservació i divulgació de cançons i danses populars angleses. A la vegada, serví d’inspiració a autors com R. Vaughan Williams, G. Holst i G. Butterworth, que utilitzaren en llurs composicions el material recollit per Sharp. Membre de la Folk-Song Society, el 1911 creà l’English Folk Dance Society.