Després de les primeres actuacions en públic, l’any 1844 esdevingué alumne d’I. Moscheles. Fou conegut per tot Europa i també a l’Amèrica del Nord com a virtuós del piano en gires en les quals participava també la seva esposa, la pianista Marie Trautmann (la futura professora d’Albert Schweitzer). Jaëll fou un defensor de la música de la seva època i gran amic de F. Liszt. En els seus concerts interpretava també composicions pròpies de caràcter virtuosístic.