Estudià cant al Conservatori de Viena, on fou deixeble d’E. Rado. Debutà el 1953 a la Volksoper de la mateixa ciutat i dos anys més tard entrà a formar part de la Staatsoper vienesa. A partir del 1955 es donà a conèixer internacionalment amb celebrades actuacions a Milà, Londres, Munic, Berlín, Brussel·les, Stuttgart i Roma, a més de festivals com el de Salzburg. El 1958 es presentà a Bayreuth, on actuà en edicions successives del festival, i el 1960 debutà al Metropolitan de Nova York. Destacat intèrpret mozartià i wagnerià, enregistrà un bon nombre de discos sota la direcció de mestres com K. Böhm, C.M. Giulini o H. von Karajan. També ha destacat en papers d’òperes del segle XX com La visita de la vella dama, de G. von Einem, que estrenà a Viena el 1970, o Wozzeck. Entre el 1987 i el 1992 fou intendent de la Staatsoper de Viena.