De formació autodidàctica, debutà a Stuttgart amb Der Evangelimann ('El recitador d’evangelis'), de W. Kienzl. Entre el 1908 i el 1912 cantà a Lübeck i Stuttgart, i el 1913 fou contractat a l’Òpera de Munic, on debutà en el paper titular de Lohengrin, de R. Wagner. El 1917 cantà a l’estrena de Palestrina, de H. Pfitzner, sota la direcció de B. Walter. S’especialitzà en el repertori mozartià, que sovint interpretà amb la seva dona, la soprano Maria Ivogün. Combinà les òperes de Mozart amb títols d’autors contemporanis i obres de R. Wagner, C.M. von Weber i Ch.W. Gluck. Colpit per dos accidents, encara aparegué esporàdicament a Munic entre el 1925 i el 1930 (any del Fidelio dirigit per W. Furtwängler). Thomas Mann s’inspirà en ell per al personatge d’Erbe del Doktor Faustus.