De molt petit començà a compondre, i tingué Moritz Hauptmann, E.F. Richter i Friedrich Lachner com a professors de teoria i composició. Estudià piano amb Louis Plaidy i Carl Reinecke. Del 1877 al 1925 visqué a Amsterdam, on fou professor de piano a l’Escola de Música. Entre el 1912 i el 1924, quan el centre ja havia esdevingut conservatori, en fou el director. A més dels concerts com a solista, cal destacar la seva tasca com a pianista acompanyant (entre d’altres, actuà amb Pau Casals, el qual el considerava un compositor extraordinari). Amb els seus fills Julius, violinista, i Engelbert, violoncel·lista, formà el Trio Röntgen. Es relacionà amb alguns dels compositors més grans del seu temps, com F. Liszt, J. Brahms o E. Grieg. Les nombroses obres de Röntgen mostren una important afinitat amb els romàntics alemanys, però els darrers anys el seu llenguatge s’obrí a la tonalitat ampliada pròpia dels compositors alemanys i francesos del principi del segle XX.