Estudià inicialment piano i orgue a la seva ciutat natal i amplià la seva formació a la Royal Academy of Music, on estudià orgue, harmonia, contrapunt i violí. El 1884 obtingué un premi en aquest centre pel seu Te Deum (1885). Fou professor durant algun temps de la Royal Academy of Music, període durant el qual, per evitar confusions amb un altre professor, canvià el seu nom pel de J.E. German. El 1887 deixà aquest centre i un any més tard assolí el càrrec de director musical del Globe Theatre. La composició de la música incidental Ricard III (1889) el donà a conèixer al gran públic i posteriorment H. Irving li encarregà la música per a una producció sobre una altra obra de W. Shakespeare, Enric VIII, estrenada el 1892. Rebé encàrrecs per part d’orquestres i festivals i el 1900 fou convidat a finalitzar la partitura de The Esmerald Isle, opéra-comique d’A. Sullivan, mort aquell mateix any. Això li permeté entrar en contacte amb aquest gènere, que cultivà amb gran èxit. El 1896 es retirà de la vida pública per dedicar-se més intensament a la composició i el 1934 rebé la Medalla d’Or de la Royal Philharmonic Society. Les seves composicions més lleugeres, com ara Merrie England, gaudeixen encara de força popularitat.