Estudià dret a la Universitat d’Osnabrück, on es graduà en l’especialitat d’economia. Després de superar l’examen d’estat (1990) inicià l’exercici professional en un bufet. Membre de la Christlich-Demokratische Union des del 1975, dins d’aquest partit fou successivament president federal de la Unió Conservadora d’Estudiants (1978-80), membre de l’executiva de les joventuts (1979-83) i president a la Baixa Saxònia (1983-85), membre de l’executiva federal (des del 1984) i president (1994-2008) de la CDU de la Baixa Saxònia, cap del grup a l’ajuntament d’Osnabrück (1989-94) i vicepresident federal del partit des del 1998.
Quant als càrrecs institucionals, ha estat regidor de l’ajuntament d’Osnabrück (1986-2001), diputat de 1994 a 2010 del Parlament de la Baixa Saxònia i ministre president d’aquest land de l’any 2003 al 2010 (amb el suport del FDP, i novament en la reelecció del 2008) i president de la conferència de ministres-presidents (2006-2007). Al juny del 2010 fou elegit president d’Alemanya en substitució de Horst Köhler. Membre del comitè supervisor de Volkswagen (2003) i senador de la Societat Max Planck (2005), l’any 2008 fou investit senador honorari de l’Acadèmia Europea de les Arts i les Ciències.
Al febrer del 2012 dimití la presidència d’Alemanya quan un tribunal demanà que se li aixequés la immunitat parlamentària per una presumpta implicació en un cas de corrupció i tràfic d’influències. Fou absolt pels tribunals al febrer del 2014.