El 1948, amb la independència i la partició de l’Índia, emigrà amb els seus pares a l’aleshores Pakistan Oriental (actual Bangladesh). Graduat per la Universitat de Dacca (1950), l’any 1969 fou nomenat comandant del regiment de Bengala Oriental. Tanmateix, li fou impedit d’intervenir en la guerra d’independència de Bangladesh (1971), on el 1973 fou transferit i a l’exèrcit del qual s’incorporà. L’any 1978 assumí el càrrec de cap de les forces armades. Tot i l’agitació política i la violència que, entre altres conseqüències, comportà l’assassinat del general Ziaur Rahman el 1981 (president des del 1977 després del cop militar que el 1975 assassinà el president Mujibur Rahman i imposà la llei marcial), no fou fins el 1982 que, al capdavant de l’exèrcit, enderrocà el govern d’Abdus Sattar (1982), suspengué la constitució i s’autoproclamà primer ministre (1982) i president de l’estat (1983). El 1986 aixecà la llei marcial i el 1988 organitzà unes eleccions que donaren al seu partit, el Jatiya Party, tres quartes parts dels escons de la cambra enmig d’un frau massiu i el boicot de l’oposició, encapçalada per Sheikh Hasina i Khaleda Zia. Ambdues líders (convertides posteriorment en rivals i figures polítiques dominants del país) organitzaren mobilitzacions massives que posaren fi al règim d’Ershad el 1990, dominat per una corrupció generalitzada que feu fracassar els intents de modernització i desenvolupament del país. Tot i que el 1991 fou condemnat a presó per corrupció, el Jatiya Party aconseguí mantenir-se com un actor destacat de la vida política. El 1997 li fou concedida la llibertat sota fiança, però l’any 2000 reingressà a la presó quatre mesos. Li fou també vetada la participació en eleccions durant cinc anys.