El 1953 ingressà a l’Acadèmia de Ciències Soviètica. Feu recerques sobre física teòrica i proposà amb I.E. Tamm un mètode per a obtenir reaccions termonuclears controlades mitjançant descàrregues elèctriques en el plasma situat en un camp magnètic. Participà en la construcció de la primera bomba d’hidrogen soviètica. Des dels anys seixanta s’oposà públicament a la proliferació nuclear i, juntament amb la seva esposa Jelena Bonner, es convertí en el capdavanter de la dissidència soviètica en favor de la democratització i el respecte als drets humans a l’URSS, posicions expressades en el seu assaig Sobre el progrés, la coexistència pacífica i la llibertat intel·lectual (1968), d’àmplia difusió a occident i (clandestinament) a l’URSS. El 1970 creà un comitè per als drets humans. Represaliat sovint per les autoritats soviètiques, el 1975 rebé el premi Nobel de la pau. Contrari a la invasió de l’Afganistan, fou confinat en 1980-86 a Gor'kij (actual Nižnij Novgorod). En arribar al poder M. Gorbačov fou rehabilitat. El 1989 fou elegit com a independent al Congrés dels Diputats i poc després s’adherí al partit dels reformistes radicals.
L'any 1988 el Parlament Europeu instituí el Premi Sakhàrov a la llibertat de pensament, atorgat anualment des d'aquest any a persones o organitzacions que han fet contribucions destacades a la lluita per als drets humans arreu del món.