Rebé les primeres classes de música del seu pare, Bernhard Anton Romberg (1742-1814), i completà la seva formació amb F. Marteau i J.K. Schlik. Entre el 1784 i el 1796, juntament amb el seu cosí, el violinista Andreas Romberg (1767-1821), feu diverses gires de concerts per Europa. A partir del 1790 ambdós músics passaren a formar part de l’orquestra de l’elector de Bonn. En aquesta ciutat conegueren F. Ries, A. Rejcha i L. van Beethoven, de l’obra del qual B.H. Romberg es convertí en intèrpret destacat. Més tard abandonà Bonn i anà a Berlín, on fou nomenat mestre de capella (1815-19), i finalment s’establí a Hamburg. Com a violoncel·lista destacà pel seu virtuosisme i l’assimilació d’alguns recursos tècnics més aviat violinístics que ampliaren les possibilitats de l’instrument. Compongué òperes, simfonies, concerts i nombroses obres de música de cambra.