Ingressà al cor de la capella reial, aleshores sota la direcció del compositor i organista John Blow, on està documentat el 1685. Entre el 1692 i el 1695 fou organista al Winchester College i el 1699 fou nomenat organista de la catedral de Saint Paul de Londres. Cinc anys més tard esdevingué mestre del cor, i poc després compartí el càrrec d’organista de la capella reial amb William Croft fins el 1707, any en què se suïcidà. Clarke compongué música religiosa, odes, cançons, música incidental per a teatre i peces instrumentals. Aconseguí la seva reputació com a compositor d'anthems, molts dels quals li foren encarregats per a celebrar esdeveniments importants, com Praise the Lord, my Soul, compost per a la coronació de la reina Anna, o I will love thee, per a la commemoració de la victòria dels anglesos a Elixem. En ocasió de la mort de Henry Purcell, compongué l’oda Come, come along. La seva producció instrumental inclou l’obra Prince of Denmark’s March, més coneguda com a Trumpet Voluntary, atribuïda erròniament a Purcell.