El 1949 es graduà a Princeton i el 1951 obtingué un màster en economia política per Harvard. Al final de la dècada de 1940 i principi de la de 1950 treballà al departament de recerca de la Reserva Federal de Nova York. El 1957 entrà al Chase Manhattan Bank per a treballar d’economista. El 1962 s’incorporà al tresor dels EUA com a responsable de l’oficina d’anàlisi financera. Després d’altres càrrecs, tornà al Chase Manhattan el 1965. Del 1969 al 1974, fou subsecretari del tresor per a afers monetaris. El curs 1974-75 exercí de professor a Princeton fins a ésser designat president de la Reserva Federal de Nova York el 1975. L’agost del 1979 fou nomenat president de la Reserva Federal dels Estats Units sota la presidència de Jimmy Carter, càrrec des del qual aconseguí frenar la inflació provocada per les crisis petrolieres del 1973 i el 1978 augmentant dràsticament els tipus d’interès, mesura que tanmateix li comportà crítiques per haver causat greus recessions. El 1987 fou succeït en el càrrec per Alan Greenspan.
Exercí també la docència en diverses universitats, entre d’altres a Princeton. Entre el 2000 i el 2002 treballà per a l’International Accounting Standards Board i assessorà l’empresa auditora Arthur Andersen. El 2004 se li assignà la tasca d’investigar la corrupció al programa de les Nacions Unides Petroli per Aliments. El novembre del 2008, el president Barack Obama l’elegí per a presidir un nou organisme, el Consell Assessor per a la Recuperació Econòmica.