Estudià música amb Charles Burney. Gràcies a la recomanació de James Nares, el 1756 ocupà la plaça d’organista a Doncaster, on conegué el compositor F.W. Herschel, més tard astrònom del rei Jordi III, i hi establí una sòlida amistat. Miller exercí un paper molt important en la vida musical de la regió de Doncaster. Entre les nombroses activitats que dugué a terme destaca la direcció del Festival de Sheffield el 1778. Compongué obres per a la litúrgia anglicana, com The Psalms of David i David’s Harp, i també obres instrumentals, com els solos per a flauta, opus 1, i les sis sonates, opus 2. Cal citar, així mateix, els seus mètodes Institutes of music i Elements of thorough bass and composition, llibres on, amb diversos exemples, s’instrueix el lector en la interpretació del baix continu.