Membre del Partit Socialista Obrer Hongarès, arribà al politburó el 1985 i fou primer ministre des del juny del 1987. Al maig del 1988 substituí János Kádar com a secretari general del Partit Socialista Hongarès. Grosz acceptà les reformes polítiques empreses per Gorbačov, però no pas el multipartidisme. Després del congrés d’octubre del 1989, en què el seu partit passà a anomenar-se oficialment Partit Socialista Hongarès, es retirà de la política.