Es formà de manera gairebé espontània a mesura que les mares de desapareguts s’anaren trobant amb la finalitat de localitzar els seus fills. La cerca esdevingué col·lectiva, ja que això els donava més suport mutu i més força de cara a l’exterior. A partir del 30 d’abril de 1977, prengueren la iniciativa de reunir-se setmanalment a la Plaza de Mayo, davant del palau presidencial, per demanar explicacions als dictadors. Un cop acabada la dictadura, i després d’haver estat també l’objectiu de la repressió militar, iniciaren amb més llibertat la cerca dels desapareguts i exerciren una pressió sobre el nou govern democràtic per tal que no deixés de banda aquesta qüestió i es fes justícia amb els culpables.
La seva tasca fou doble: per una banda, crear un registre dels desapareguts (més de 30.000) i dur a terme la recerca de cada cas, i per l’altra, difondre internacionalment les atrocitats comeses durant la dictadura, per tal de trobar suports exteriors que pressionessin en la demanda de justícia, i evitar així que el genocidi quedés oblidat. Aquesta actuació fou fonamental per a mostrar la realitat de la dictadura militar argentina a la resta del món. Amb els anys, les Madres també adoptaren com a responsabilitat fer de pont amb les noves generacions, transmetent el missatge de lluita i solidaritat pel qual els seus fills foren morts.
No ha estat fins al final de la dècada dels anys noranta que ha estat possible endegar processos judicials contra els militars implicats en la dictadura argentina. Paral·lelament, el descobriment de l’adopció per part de militars durant la dictadura de fills de les víctimes creà un nou impuls en la tasca de l’organització, ara buscant els nets, possiblement adoptats en famílies de militars. Aquesta situació creà l’aparició d’una nova organització en estreta col·laboració amb les Madres, anomenada Hijos por la Identidad y la Justicia contra el Olvido y el Silencio (HIJOS) formada pels fills dels desapareguts. Les Madres de la Plaza de Mayo també duen a terme una tasca de solidaritat amb els familiars i les víctimes d’altres dictadures d’arreu del món.
L’any 2000 inauguraren a Buenos Aires la Universidad Popular Madres de la Plaza de Mayo, on s’imparteixen cursos de diferents temàtiques, principalment polítiques i socials.