Després d’estudiar al Conservatori de Viena i de dirigir en diversos teatres, el 1869 esdevingué director al Theater an der Wien. Durant els catorze anys que es mantingué en el càrrec, es guanyà una gran reputació com un dels millors mestres de l’opereta vienesa gràcies a obres com Gräfin Dubarry (1879), Apajune der Wassermann ('Apajune, l’esperit de l’aigua', 1880) o Der Bettelstudent ('L’estudiant captaire', 1882), amb la qual assolí un èxit mundial. Els seus triomfs li permeteren retirar-se de la direcció i dedicar-se només a compondre. Entre les seves obres posteriors destaquen Gasparone (1884) i Der arme Jonathan ('El pobre Jonathan', 1890). Algunes de les seves obres són encara avui en dia representades a Àustria o Alemanya i, encara que menys conegut que Johann Strauss o F. von Suppé, juntament amb ells és un dels millors representants de l’opereta vienesa del seu temps.