Combatent durant la Segona Guerra Mundial, el 1946 s’afilià al Partit Socialdemòcrata. Com a membre de l’equip municipal de l’ajuntament d’Hamburg (1961-1965) la seva determinació en les tasques de salvament en les inundacions que afectaren la ciutat el 1962 li donà una gran popularitat. Membre del Bundestag (1953-62 i 1965-86), l’any 1968 fou elegit vicepresident del partit. Després d’haver ocupat els ministeris de Defensa, Finances i Economia (1969-74), el 1974 substituí Willy Brandt com a canceller federal i practicà una política moderada, sovint criticada per l’ala esquerra socialdemòcrata. Durant la crisi del petroli de mitjan anys setanta fou un dels impulsors del G7 i, a Europa, del sistema monetari europeu, predecessor de l'euro. S’enfrontà amb èxit a l’onada terrorista (setembre-octubre de 1977) coneguda amb el nom de “tardor alemanya” i protagonitzada pel Baader-Meinhof, que culminà amb l’alliberament dels hostatges del vol de la Lufthansa segrestat a Somàlia, tot i que no pogué evitar l'assassinat de l'industrial Hans Martin Schleyer. Al final dels anys setanta mantingué forts enfrontaments amb importants sectors del seu propi partit, contraris a abandonar la política de distensió amb el bloc de l'Est i a l'adopció d'una estratègia de dissuasió amb l'URSS, en permetre la instal·lació de míssils de l'OTAN en territori de la República Federal Alemanya. Arran de la dissolució de la coalició governamental socialdemòcrata-liberal, Schmidt dimití el 1982 i renuncià a la direcció de l'SPD. L’any 1986 abandonà la política activa i esdevingué editor de Die Zeit. Publicà, entre altres obres, Strategie des Gleichgewichts (‘Estratègia de l’equilibri’, 1969), Die Deutschen und ihre Nachbarn (‘Els alemanys i els seus veïns’, 1990), Globalisierung (‘Globalització’, 1998), i les memòries Menschen und Mächte ('Homes i poders', 1987) i Ausser Dienst ('Fora de servei', 2008).