Nascut en una família obrera i atea, a catorze anys es convertí al protestantisme i sis anys més tard (1933) ingressà al Partit Comunista sense renunciar, però, a les seves creences religioses. Estudià filosofia, matèria que impartí en instituts d’ensenyament secundari a Albi a partir del 1936. El 1939 fou mobilitzat i, condecorat per les seves accions contra els alemanys, s’uní a la Resistència. El règim de Vichy el detingué i l’internà en un camp de presoners d’Algèria.
Alliberat el 1945, aquest any s’incorporà al Comitè Central i fou elegit diputat pel Tarn. Conservà l’escó fins el 1951, i el recuperà el 1956 com a diputat pel Sena. Mentrestant, el 1953, es doctorà en filosofia a la Sorbona i a Moscou amb la tesi Théorie materialiste de la conaissance. Entre el 1956 i el 1958 fou vicepresident de l’Assemblea Nacional, i posteriorment senador fins el 1962, any en què renuncià als càrrecs polítics per dedicar-se a l’ensenyament de la filosofia.
Filòsof oficial del PCF i defensor de l’estalinisme, als anys seixanta modificà les seves posicions i defensà, especialment, el diàleg entre cristians i comunistes, motiu pel qual fou titllat de revisionista. El distanciament s’accentuà amb motiu del maig del 68, pel qual expressà simpaties, i per la crítica a la invasió soviètica de Txecoslovàquia, fins que fou expulsat del partit l’any 1970.
Convertit aleshores al catolicisme, els anys següents defensà una amalgama de cristianisme i comunisme que, tot i convertir-lo en un heterodox, tingué una considerable influència, també a Catalunya, amb una sèrie de llibres que posaven de manifest aquesta evolució: Perspectives de l’homme (1961), Dieu est mort (1962), De l’anathème au dialogue (1965), Peut-on être communiste aujourd’hui? (1968), Marxistes et chrétiens face à face (1969), Parole d’homme (1975), Le projet espérance (1976), etc.
L’any 1981 es convertí a l’islam, canvi que assenyalà el seu llibre Promesses de l’islam, publicat el mateix any. L’any 1987 creà la Fondation Garaudy a Còrdova, per a la difusió d’aquesta religió, i adoptà progressivament tesis que li valgueren de ser titllat de fonamentalista i d’antisemita: moments especialment significatius foren la qualificació de la guerra del golf Pèrsic de “guerra colonial” i la negació de l’Holocaust el 1995 amb la publicació de Les mythes fondateurs de la politique israelienne, llibre en el qual afirmava l’existència d’una conspiració sionista i que l’any següent desencadenà un gran escàndol i una condemna per negació de crims contra la humanitat (1998). L’abbé Pierre, gran amic seu, el defensà de les acusacions, bé que posteriorment es retractà.
Els anys següents mantingué aquestes posicions i, bé que fou bescantat a Europa (llevat dels sectors de l’extrema dreta i l’extrema esquerra), la seva figura i les seves idees tingueren una gran acollida en el món musulmà, on fou rebut pels líders més acusadament radicals i antioccidentals. Exposà aquestes concepcions en diversos llibres (Les États-Unis, avant-garde de la décadence, 1997; L’Islam en Occident. Cordoue, capitale de l’esprit, 2000; Le terrorisme occidental, 2004, etc.).