Es graduà el 1967 en dret a la Universitat de Ghana i posteriorment amplià estudis a la School of Oriental and African Studies de la Universitat de Londres. Després de doctorar-se, l’any 1971 fou professor de dret fiscal a la Universitat de Ghana durant més de vint anys i fou també professor invitat a les universitats de Temple (EUA) i Leiden (Països Baixos).
S'introduí en el món de la política arran de la seva participació en institucions financeres del seu país des de mitjan anys vuitanta, sota la presidència de Jerry John Rawlings. L’enfrontament d’aquest amb el seu vicepresident comportà la designació de Mills com a candidat a la vicepresidència en les eleccions del desembre del 1996, càrrec que, en guanyar Rawlings les eleccions, exercí fins l’any 2001.
Destacat membre del Congrés Nacional Democràtic, succeí Rawlings com a candidat a la presidència, però fou derrotat per John Kofi Agyekum Kufuor en les eleccions del desembre del 2000 i el 2004 i, després de la retirada d’aquest, en les eleccions del desembre del 2008 derrotà el candidat del Nou Partit Patriòtic, Nana Akufo-Addo, per un estret marge.
Morí pocs mesos abans de completar el seu primer mandat, al llarg del qual promogué el creixement econòmic, sobretot a partir de l’inici de les extraccions petrolieres en jaciments en aigües costaneres al desembre del 2010.