Fou creada el 1831 per Lluís Felip d’Orleans amb la finalitat de combatre en la conquesta d’Algèria. Originalment la formaven efectius estrangers de l’exèrcit francès (regiment de Hohenlohe), o de cossos d’exèrcits aliats (guàrdia suïssa). Concebuda com un exèrcit colonial, el reclutament a la metròpolis es feia entre la població estrangera immigrada, i, a les colònies, era formada per indígenes i estrangers. A la pràctica, durant el segle XIX hi ingressaren molts elements marginals de la societat (delinqüents, criminals, vagabunds, pròfugs, etc.), i les seves condicions quant a equipament, salari, etc., foren d’una gran precarietat fins a la dècada de 1840, cosa que n’accentuà les connotacions de brutalitat i degradació. Intervingué en la primera guerra Carlina (1833-40) en virtut de la Quàdruple Aliança al costat dels liberals, i a Catalunya un contingent vingut d’Algèria prengué part en la batalla de Guimerà (setembre del 1935). També lluità al País Basc i a Aragó (Barbastre, 1837). Participà en totes les guerres colonials, i combaté per primer cop en territori francès a la Primera Guerra Mundial. Durant la Segona Guerra Mundial, una part de la legió restà a les ordres del règim de Vichy, i l’altra s’uní a l’exèrcit de la França lliure del general De Gaulle. Després de la Segona Guerra Mundial, formà el gruix de les forces franceses en les guerres d’Algèria i Indoxina. Després de la descolonització (1962) ha pres part en operacions integrades en missions internacionals, i també ha intervingut en conflictes a les excolònies franceses d’Àfrica (Ruanda, República Centreafricana, Txad, Costa d’Ivori, Mali, etc.).
A l’Estat espanyol, amb el nom de Legión Española, originàriament Tercio de Extranjeros, el 1920, sota el regnat d’Alfons XIII, fou creat un cos de característiques semblants a la legió estrangera francesa. Era integrat tant per ciutadans espanyols com per estrangers (generalment de les colònies espanyoles). En fou l’impulsor principal José Millán Astray, que amb la constitució d’un cos militar professional sense els inconvenients dels exèrcits de lleva, intentà superar les derrotes sofertes en les guerres del Rif. Durant la Segona República Espanyola prengué part en la repressió de l’aixecament dels miners d’Astúries (1934), i en la Guerra Civil Espanyola féu costat al general Franco. Posteriorment combaté en la guerra d’Ifni (1957) i durant la descolonització del Sàhara Occidental. Des del 1990, integrada en forces multinacionals, pren part en missions internacionals. Actualment la formen quatre tercios (Gran Capitán, Duque de Alba, Don Juan de Austria i Alejandrio Farnesio) i la Brigada Rey Alfonso XIII.