Fou creada el 1988 per Ossama bin Laden, que en fou el líder, a partir de la unió de combatents àrabs en la guerrilla antisoviètica a l’Afganistan. El seu objectiu és expulsar els occidentals dels territoris musulmans per establir-hi un califat panislàmic. En la seva lluita, Israel i els EUA són identificats com els principals enemics; Al-Qā‘ida crida els musulmans a destruir aquests països per tots els mitjans en una guerra santa (gihad). El 1991 l’organització es traslladà al Sudan, on es consolidà i des d’on planificà atemptats com el del World Trade Center de Nova York.
El 1996 retornà a l’Afganistan, emparant-se en la protecció del règim dels talibans. El 1998 perpetrà atemptats a les ambaixades nord-americanes de Kenya i Tanzània. El 2001 es fusionà amb el Gihad Islàmic d’Egipte i aquest mateix any fou responsable dels atemptats de l'onze de setembre de 2001 als Estats Units. Després d’aquests atacs, la guerra antiterrorista global impulsada pels EUA afeblí molt l’organització, especialment des de l’enderrocament dels talibans al novembre. Tanmateix, la projecció d’Al-Qā‘ida i de Bin Laden —que escapà durant deu anys a una persecució sistemàtica dels EUA— fou molt gran en el món musulmà a partir del 2001.
En resposta a aquesta persecució, l’organització ha adoptat una estructura flexible i descentralitzada amb cèl·lules arreu del món, inicialment al Pròxim Orient, el Sud-est Asiàtic i l’Àsia del Sud. En la nova configuració d’Al-Qā‘ida, la influència, els contactes i la cooperació amb grups locals afins són elements determinants en la seva acció. Des d’aleshores ha perpetrat atemptats de gran magnitud, com ara el de l'onze de març de 2004 a Madrid, si bé molts no han estat en sentit estricte obra de l’organització (com ara l’atemptat de Bali, atribuït al grup indonesi Jemaah Islamiyah el 2002, o el de Londres del 2005).
Tot i aquestes accions i altres de semblants, des del 2003 Al-Qā‘ida ha concentrat els atemptats a l’Afganistan i a l’Iraq, països on hostilitza els governs establerts a partir de l’enderrocament dels talibans i de Saddam Ḥusayn, respectivament, i també les forces occidentals antiterroristes que les combaten. En alguns casos, s’ha fusionat amb altres grups insurgents, com ara el del jordà Abū Muṣ‘ab al-Zarqāwī, que el 2004 uní la seva organització a la de Bin Laden. El curs dels enfrontaments en aquests territoris ha seguit una trajectòria oscil·lant, difícil d’avaluar (a banda de la intensitat i freqüència dels atemptats) a causa de la natura clandestina de la mateixa organització, de la guerra de desgast que practica, de l’existència de grups inactius dins de la població civil amb un potencial d’agressió no determinat però real, i de la captació de nous militants arreu del món musulmà. Aquest és el cas de l’Àfrica subsahariana, on a partir de mitjan primera dècada del segle XXI han pres una gran força diversos grups terroristes d’obediència islàmica. Si bé el lligam amb Al-Qā‘ida és explícit en el cas d’Al-Qā‘ida del Magrib Islàmic, actiu a Mali, és menys evident en el d'Al-Šabāb, que hostilitza el govern de Somàlia, i encara menys en el de Boko Haram (Nigèria).
La dificultat en la identificació i la neutralització de les fonts de finançament i de suport logístic constitueixen, a més, un obstacle afegit. En aquest aspecte, el Pakistan ha estat assenyalat com un territori decisiu per al futur de l’organització i del conflicte, tant pel veïnatge amb l’Afganistan (país on Al-Qā‘ida s’ha aliat amb els talibans, que també han experimentat un ressorgiment), com per la inestabilitat política crònica i el fet de posseir armes nuclears.
D’altra banda, algunes accions i mesures, com ara el fort increment de les tropes nord-americanes de l’any 2007 i la mort de líders destacats en ofensives antiterroristes (com ara la del mateix Al-Zarqāwī el 2006 o la d’Abu Qaswarah el 2008) han donat peu a afirmar que hi ha hagut un cert retrocés d’Al-Qā‘ida, especialment a l’Iraq, on al llarg del 2008 disminuïren els atemptats. L’1 de maig de 2011 Bin Laden fou mort en una operació d’un comando especial nord-americà a la ciutat pakistanesa d’Abbotabad, prop d’Islāmābād. El mes següent transcendí que l’egipci Ayman al-Ẓawāhirī, antic lloctinent de Bin Laden, havia estat elegit nou líder de l’organització. Al setembre fou mort en un raid aeri de l’aviació dels EUA al sud del Iemen Anwar al-‘Awlakī, cap de l’organització a Aràbia. El 31 de juliol de 2022, Al-Ẓawāhirī fou mort en un atac amb drons nord-americans.
L’any 2013 nasqué a partir d’una escissió d’Al-Qā‘ida a l’Iraq l’Estat Islàmic de l’Iraq i el Llevant, conegut per les sigles ISIL, i posteriorment com a Estat Islàmic. Aquesta organització, integrada sobretot per militants reclutats arreu del món, fou rebutjada per la mateixa Al-Qā‘ida, amb la qual s’enfrontà en la guerra civil de Síria que seguí a la Primavera Àrab. L'Estat Islàmic es convertí el 2014 en el principal grup insurgent a l’Iraq, on, enfrontat al govern de predomini xiïta, controlà extenses zones del país. El gener del 2015 una branca d'Al-Qā‘ida al Iemen reivindicà l'atemptat contra la revista Charlie Hebdo de París.