Es graduà com a enginyer a l’Institut Politècnic de Kujbyšev, als Urals. En la dècada dels anys setanta s’afilià al PCUS i entrà a la secció d’indústria pesant del comitè central, on romangué fins el 1982. Des del 1985 dirigí el ministeri de la indústria del gas, que transformà el 1989 en el consorci Gasprom, monopoli de gas soviètic. El desembre del 1992 fou escollit primer ministre de Rússia. En les eleccions legislatives del desembre del 1995, el bloc progovernamental Casa Nostra-Rússia, liderat per Černomyrdin, aconseguí el 12% dels vots i 54 escons a la Duma. Arran de la victòria de Boris Jelcin en les presidencials del juny del 1996, fou confirmat en el càrrec de primer ministre. El novembre del 1996, ocupà la presidència del país quan Boris Jelcin hagué d’apartar-se temporalment del poder per problemes greus de salut. Fou destituït, juntament amb tots els membres del Govern, el 23 de març de 1998, en una acció que havia de permetre afrontar els greus problemes econòmics i socials del país, i el substituí Sergej Kirienko. Després d’una nova crisi econòmica, a l’estiu del 1998, Boris Jelcin el proposà de nou com a primer ministre, però fou rebutjat per la Duma en favor de Jevgenij Primakov. Posteriorment, fou membre de la Duma (1999) i ambaixador a Ucraïna (2001-09). L’any 2009 Dmitri Medvedev el nomenà assessor presidencial i representant presidencial d’afers econòmics de la CEI.