De nen fou escolà de cor a Sant Nicolau de Praga (1718-20) i a la Hofkapelle de Dresden, Saxònia (1720-23). El 1723 tornà a Praga i ingressà al seminari per acabar els estudis. Quan el canvi de veu el va apartar del cant, es dedicà al perfeccionament del violí. Després de passar alguns anys a Viena i Varsòvia, el 1733 anà a Ruppin (Brandenburg), on fou contractat per Frederic II de Prússia, al servei del qual restà fins a la seva mort. En aquesta ciutat estudià composició amb els germans Graun, un dels quals succeí com a konzertmeister el 1771. El fet que no aprengués a tocar un instrument de teclat el restringí a la composició de sonates per a violí i altres instruments de corda. Fou molt apreciat com a intèrpret, i els seus contemporanis en lloaven la subtilesa de la tècnica i la bellesa del so, que, juntament amb l’expressivitat en l’execució, li donaren un estil particular. Fou també un gran mestre i creà una nova escola d’interpretació violinística. Dels seus sis fills, quatre es dedicaren a la música.