Rebé les primeres lliçons de violí del seu pare a l’edat de quatre anys. El 1865 ingressà al Conservatori de Lieja, del qual sortí el 1867 per desavinences amb el seu professor D. Heynberg. Havent-lo escoltat a París, H. Vieuxtemps l’encoratjà a continuar i tornà a ingressar al conservatori de la seva ciutat natal el 1872, on estudià amb R. Massart (violí) i M. Dupuy (harmonia). Posteriorment, del 1875 al 1877 continuà la seva formació a Brussel·les amb H. Wieniawski i del 1877 al 1879 a París amb Vieuxtemps. Fins el 1883 fou solista a l’Orquestra Bilse de Berlín, on entrà en contacte amb F. Liszt, J. Joachim, A. Rubinstein i Clara Schumann. Establert a París, mantingué una gran amistat amb C. Franck, que li dedicà la seva Sonata per a violí i piano. Del 1886 al 1889 fou professor del Conservatori de Brussel·les, època durant la qual fundà (1888) el Quartet Ysaÿe i la Société des Concerts Ysaÿe (1898). El 1917 es traslladà als EUA, i fins el 1921 dirigí el Conservatori i l’Orquestra de Cincinnati. El 1927 actuà a Barcelona amb motiu del centenari de la mort de L. van Beethoven. Ysaÿe fou probablement el violinista més admirat de la seva època. Com a compositor, estigué vinculat estèticament al grup de Vincent d’Indy i dels altres deixebles de César Franck. Compongué sonates, de les quals cal destacar-ne les Sis sonates per a violí sol, opus 27 (1924), que constitueixen una de les aportacions més importants al repertori d’aquest instrument sol, peces lliures per a violí (que anomenà Poèmes, com el Poème d’hiver), i el drama líric Pierre le Houilleur (1931). Fundà grups i institucions musicals, i dirigí concerts a la Société de la Libre Esthétique, de Brussel·les.