Malgrat que estudià dret i exercí d’advocat, ho abandonà i, sota la influència del seu oncle Quatrefages, es decantà cap a la investigació prehistòrica amb la prospecció metòdica dels dòlmens de Larzac (Occitània). Professor d’antropologia a la Universitat de Tolosa de Llenguadoc, fou un dels capdavanters de l’arqueologia prehistòrica. Si bé no fou un dels creadors de la prehistòria com a ciència, sí que fou el primer que sabé donar un sentit humanístic a una disciplina que en aquells moments tenia poc de científica i molt de polèmica. Des del 1869 dirigí la primera revista de prehistòria: Matériaux pour l’histoire naturelle et primitive de l’homme.
En les obres La France préhistorique (1879) i Les âges préhistoriques de l’Espagne et du Portugal (1886) elaborà, respectivament, unes de les primeres síntesis sobre la prehistòria francesa i la de la Península Ibèrica. El 1888 es traslladà a les Illes Balears per estudiar-ne els jaciments prehistòrics. En la seva visita a les Illes rebé la protecció del banquer d’origen francès Ernest Canut, que el posà en contacte amb els estudiosos de la Societat Arqueològica Lul·liana i de la Revista de Menorca. Publicà els resultats dels seus treballs en Monuments primitifs des Îles Baléares (1892), traduïda al castellà per G. Rosselló i Bordoy (Los monumentos primitivos de las Baleares, 1991). Aquest és el primer llibre sobre la prehistòria de les Balears que gaudí d’un enfocament plenament científic. En aquest estudi apareixen per primera vegada, clarament diferenciats i perfectament descrits, els diversos tipus de monuments talaiòtics, que l’autor enquadrà dins l’edat de bronze. També representà una novetat el fet d’il·lustrar el text amb plànols detallats i fotografies. L’apartat dedicat a les torres i els talaiots és el més equilibrat i fet amb més cura, amb unes qualitats intuïtives excepcionals que converteixen les descripcions de Cartailhac en textos encara vigents; l’autor també dedicà especial atenció a les naus, o navetes, definint-les com a ossaris col·lectius, si bé no arribà a precisar les diferències estructurals entre les naus amb cambra i precambra i aquelles altres que tenien només una habitació. Des del punt de vista estilístic, el llibre fou escrit sense tecnicismes, i adequat per a un públic no especialitzat. L’autor també hi plantejà freqüents interrogants i dubtes.
Mantingué polèmiques amb Jorge Calens sobre la funció de les taules i amb Marcelino de Santuola sobre la importància de les pintures rupestres d’Altamira. El 1902 escriví Mea culpa d’un sceptique (1902), un dels treballs més llegits que s’han publicat sobre arqueologia, on es retractà de les seves opinions i admeté l’autenticitat de les pintures d’Altamira.