Fill d’un anarquista jueu d’origen rus i d’una escriptora restà orfe de pare després que els nazis l’haguessin internat a Auschwitz. Visqué amb la seva mare a França, i estudià matemàtiques a Montpeller i a París. Després d’ensenyar al Brasil i als Estats Units, el 1958 s’incorporà a l’Institut des Hautes Études Scientifiques (IHES), on desenvolupà la carrera acadèmica.
Considerat un dels primers matemàtics del segle XX, efectuà aportacions fonamentals a diversos camps de la matemàtica, primer en l’anàlisi funcional (teoria dels espais nuclears) i després en la seva obra monumental i inacabada, escrita en col·laboració amb Jean Dieudonné, Éléments de géométrie algébrique. Féu també aportacions decisives per a la resolució d’enigmes matemàtics com el teorema de Fermat o la conjectura de Poincaré. El 1966 rebé la medalla Fields, però el 1969 abandonà gairebé tota activitat de recerca matemàtica per dedicar-se a l’activisme pacifista i ecologista. El 1988 es retirà totalment de la vida pública per dedicar-se a la meditació en un lloc remot dels Pirineus.