Diplomat a l’École Polytechnique i també en telecomunicacions, treballà com a tècnic de ràdio i televisió a l’RTF.
El 1948 formà el Groupe de Recherches de Musique Concrète, on col·laboraren Messiaen, Boulez i Stockhausen. Creador de la música concreta, la seva primera obra en aquest camp fou el Concert de bruits (1948), que fou seguida de: Étude aux chemins de fer. Étude aux tourniquess (1948), L’Oiseau “RAL" (1950), etc.
Fabricà collages amb tot tipus d’objectes sonors enregistrats (sorolls de la vida quotidiana, instruments desafinats, veus, crits...), que transformava mitjançant aparells electrònics (Cinq études de bruits, 1948; Symphonie pour un homme seul, 1950, amb P. Henry; Étude aux objets, 1959), i que anomenà musique concrète. Amb P.Henry també compongué Bidule en ut (1950) i l’òpera experimental Orphée (1953).
El 1968 fou nomenat professor de música experimental al Conservatori de París. En la línia del bruitisme del començament del segle XX, Schaeffer definí una pràctica artística que operava amb tot l’espectre sonor i que la institució músical no reconeixia com a musical.
A més de la seva tasca d’explorador musical, Schaeffer alimentà intensament una activitat de recerca teòrica que es reflectí principalment en el Traité des objets musicaux (1966), compendi de la seva forma d’entendre la música. També publicà À la recherche d’une musique concrète (1952) i Solfège de l’objet sonore (1967).
Com a escriptor literari publicà la biografia Clotaire Nicole (1935), la peça escènica Tobie (1938), l’assaig Amérique, nous t’ignorons (1946) i les novel·les Les enfants de coeur (1949) i Le gardien de volcan (1949-69).