D’origen humil, a vuit anys quedà fascinat pel teatre i rebé les primeres nocions de solfeig i violí. Treballà a partir dels dotze anys com a figurant i copista, i a disset entrà a la companyia lírica del Teatre Panajev, on debutà interpretant el Fernando d'Il Trovatore, de Verdi. Després cantà a Tbilisi (Geòrgia), fins que el 1895 feu de Mefistòfil en el Faust de Ch. Gounod, al Teatre Mariinskij de Sant Petersburg. A partir d’aleshores inicià una brillant carrera que li permeté recórrer tot el país, fins a arribar a la companyia del Teatre Bol’šoj de Moscou el 1899, amb la qual viatjà a Milà, Nova York i París, on obtingué un triomf clamorós amb el paper titular de Borís Godunov, de M. Musorgskij. El 1910 estrenà Don Quixot, de Jules Massenet. Acusat de contrarevolucionari, fou expulsat de l’URSS el 1922, i fixà la seva residència a París. A partir d’aleshores, compaginà les actuacions a Nova York i Londres. La seva veu de baix profund, de greus vellutats i rotunds, i els seus dots d’actor el convertiren en un dels cantants més rellevants de la seva generació.