A Egipte, amb catorze anys ja formava part dels Germans Musulmans i, des del 1979, del grup fonamentalista Gihad Islàmic, del qual fou el darrer dirigent i responsable dels atemptats comesos al país els anys noranta. La dècada de 1980 participà en atacs terroristes contra el govern afganès i els seus aliats soviètics, i és en aquest context que conegué Ossama bin Laden. Considerat el veritable ideòleg d’Al-Qā‘ida, fou la mà dreta de Bin Laden fins a la seva mort, moment en què assumí el lideratge de l’organització. Fou mort en un atac amb drons nord-americans el 31 de juliol de 2022.