Descendent d’una família de músics d’Alsàcia, estudià amb els seus pares abans d’establir-se a París. A la capital francesa, com a pianista, fou deixeble de Cramer, i a més inicià estudis de cant amb Manuel García. Fou com a baríton que començà una important carrera internacional, de primer en companyia de García i, des del 1852, en la companyia del Teatre de Mannheim. Fou un dels primers cantants alemanys que difongueren arreu el repertori liederístic; el 1856 estrenà part de Die schöne Müllerin ('La bella molinera') a Viena, peça que fins llavors no s’havia interpretat en els concerts públics. La temporada 1857-58 fou contractat a l’Òpera Còmica de París com a baríton, i al cap de poc organitzà un cor especialitzat en les obres de J.S. Bach. J. Brahms compongué Magelone i la part de baríton del Rèquiem alemany pensant en la seva veu. El 1863 fou contractat a Hamburg com a director, càrrec que deixà el 1867. Continuà fent gires de concerts, sovint acompanyat per Brahms, i alhora impartí classes de cant. Publicà un mètode de cant.