A cinc anys rebé lliçons de cant del seu pare, el tenor Karl David Björling, i de piano de la seva mare. Recorregué el món amb el quartet vocal que formà el seu pare amb ell i els seus dos germans. A partir del 1928 estudià amb el baríton John Forsell a l’Òpera d’Estocolm, on aprengué més de vint òperes. L’any 1930 debutà a l’Òpera Reial d’Estocolm amb un breu paper, però el mateix any hi interpretà el Don Ottavio del mozartià Don Giovanni.
Vinculat al teatre suec fins l’any 1935, posteriorment inicià una esplendorosa trajectòria professional que el dugué a l'Òpera de Viena (1936) per a cantar-hi Aïda. Dos anys després debutà al Metropolitan de Nova York amb La bohème, al costat de Mafalda Favero. Durant la Segona Guerra Mundial tornà a Estocolm. Finalitzat el conflicte bèl·lic, reaparegué al teatre novaiorquès, on actuà pràcticament totes les temporades següents, fins a la seva prematura mort.
La seva veu lírica, lluminosa i rotunda, una de les més belles del segle, unida a una línia de cant espontània i una extraordinària musicalitat, el convertí en un dels tenors més preuats de la seva generació. S'especialitzà en el gran repertori líric i dramàtic italià de Verdi i Puccini, però també excel·lí en les òperes de Mozart, Rossini, Leoncavallo, Bizet, Mascagni i, fins i tot, Wagner. Feu també molts enregistraments discogràfics.
Amb la soprano Victòria dels Àngels formà una de les parelles operístiques més importants del seu temps.