Fill de camperols, enrolat en l’exèrcit tsarista el 1915, el 1918 passà a l’exèrcit roig i l’any següent ingressà en el partit bolxevic. Fou observador soviètic en la Guerra Civil Espanyola. Lluità a Manxúria contra el Japó (1939).
General el 1940, cap de l’estat major, viceministre de defensa i membre suplent del comitè central (1941), fou comandant en cap del front de l’W durant la Segona Guerra Mundial, i participà en la defensa de Moscou. El 1942 passà a formar part del quarter general de Stalin, de qui fou conseller militar. Fou enviat a Stalingrad, i més tard a Leningrad. Mariscal de l’URSS (1943) i vicecomandant en cap, dirigí la gran ofensiva del front de l’W i ocupà Berlín (1945). Com a representant del govern soviètic, signà l’acta de capitulació alemanya. Fou nomenat comandant en cap de l’exèrcit soviètic i viceministre de defensa. A causa de la seva popularitat, fou relegat per Stalin a càrrecs menors. Després de la mort de Stalin s’alià amb Khruščov i fou nomenat ministre de defensa (1955) i membre del praesidium del PCUS (1956). El 1957 fou novament relegat, i visqué retirat fins a la mort de Khruščov. És autor d’unes Memòries (1971).