Entre el 1694 i el 1700 fou violoncel·lista de l’orquestra privada del cardenal Pietro Ottoboni, sota la direcció d’Arcangelo Corelli. En 1701-11 treballà a Londres com a músic de cambra del duc de Bedford, al qual subministrava col·leccions de música impresa importada des de Roma per a la seva biblioteca particular. El 1718 era al servei del duc de Chandos a Cannons, on s’interpretà el seu anthemThe Lord is King (1719), que fou molt apreciat per la seva temàtica de gran contingut espiritual. Haym contribuí de forma destacada a l’establiment de l’òpera italiana a Londres i compongué àries per a les òperes Camilla, de Bononcini, i Pirro e Demetrio, d’A. Scarlatti, entre d’altres. S’han conservat algunes obres de la seva època a Roma, com la serenata Il responsae restitutus (1699) i Santa Costanza (1700). Compongué també música instrumental, especialment sonates en trio. Com a llibretista col·laborà amb Händel aportant o adaptant textos a les òperes Teseo, Radamisto i Giulio Cesare, entre d’altres. Fou també editor i antiquari.