L’any 1963 es graduà en teologia islàmica a la Universitat de Kabul, i hi exercí la docència fins el 1966, que anà a Egipte a ampliar estudis a la universitat islàmica d’al-Azahar d’El Caire, on entrà en contacte amb els Germans Musulmans . Graduat el 1968, fou el primer a traduir els llibres de Sayid Qutb, el principal ideòleg de l’islam radical, al persa.
En tornar a l’Afganistan, es reincorporà a la Universitat de Kabul i hi organitzà la Jamaat al-Islam, equivalent persa o tadjik dels Germans Musulmans, composta bàsicament per membres d’aquesta ètnia. En produir-se el cop d’estat i la invasió soviètica de l’Afganistan (1979), fou un dels principals líders mujahidí que enderrocà el règim de Muhammad Najibullah , i el 1992 fou un dels caps en el Govern compartit del nou Afganistan islàmic.
Abocat el país a una nova guerra civil entre faccions ètniques i tribals, després que els talibà prenguessin el poder (1996), fugí a Faisabad, a la seva província natal, i hi organitzà l’Aliança del Nord, que lluità contra el Govern talibà. Després que aquest fos enderrocat arran dels atemptats de l’ onze de setembre de 2001 , fou un dels candidats a la presidència del nou Govern prooccidental.
Malgrat que ocupà provisionalment el càrrec del novembre al desembre d’aquest any, finalment recaigué en Hamid Karzai , amb el qual mantingué unes relacions fluctuants i conflictives com a líder del segon grup ètnic més nombrós del país. Fou mort per un militant talibà en un atemptat suïcida.