Militant comunista des del 1927, fou enginyer tèxtil i ascendí ràpidament en el partit. Dirigí el Gosplan (1959). Vice-primer ministre i membre del Comitè Central del PCUS (1960), el 1964 substituí Nikita Khruščov com a cap de govern, càrrec en què romangué fins el 1980 (succeït per Nikolaj Tikhonov), bé que des del 1970 fou eclipsat progressivament per Leonid Brežnev. Afavorí la distensió diplomàtica amb els EUA.