Fill d’immigrants polonesos, aprengué els rudiments del cant amb la seva mare, concertista de piano. Posteriorment amplià la seva formació amb S. Margolis. Començà la seva carrera com a cantant melòdic per bars i hotels, amb el nom artístic de Merrill Miller, i entrà a formar part del Radio City Music Hall i de la NBC Symphony Orchestra, dirigida per Arturo Toscanini, amb el qual interpretà dues òperes com a solista. El 1945 debutà com a Germont (La Traviata) al Metropolitan de Nova York, després d’haver guanyat un important concurs radiofònic convocat pel teatre novaiorquès. A partir d’aquí, es convertí en un cantant habitual del Met al llarg de 30 anys, interpretant papers com Escamillo a Carmen, Fígaro a El barber de Sevilla i Rigoletto. La temporada 1950-51 obtingué un gran èxit com a Rodrigo (Don Carlo).
Considerat un dels millors barítons verdians, fou una de les veus més importants de les dècades dels cinquanta i seixanta, bastió del Metropolitan Opera House, i alhora gaudí d’una gran popularitat gràcies al fet que mai no deixà de fer actuacions a la ràdio, la televisió i fins i tot al cinema (al film Aaron Slick From Punkin Crick, 1950) i a Las Vegas.
Debutà tardanament a Europa i ho feu el 1961 al Teatro La Fenice de Venècia. Sis anys més tard es presentà al Covent Garden de Londres. Estigué casat durant un temps amb la soprano Roberta Peters, amb la qual interpretà diverses òperes, especialment Rigoletto, que enregistraren sota la direcció de J. Perlea. De retorn a Amèrica, es reincorporà al Met, on actuà fins el 1976 completant més de 500 representacions. Posteriorment es dedicà a popularitzar l’òpera per mitjà de diverses aparicions televisives i amb una gira de concerts arreu del món.
Protagonitzà un nombre considerable d’enregistraments operístics al costat dels més destacats solistes de la seva generació. Es retirà oficialment el 1976. Publicà dos llibres autobiogràfics, Once More From the Beginning (1965) i Between Acts (1976), i una novel·la, The Divas (1978).