Després d’una laboriosa recol·lecció de manuscrits gaèlics, amb l’ajuda del poeta John Hume i el finançament d’Hug Blair, publicà Fragments of Ancient Poetry... Translated from the Gaelic Language (1760), Fingal (1762) i Temora (1763), tot afirmant que la major part de llur contingut es basava en l’obra d’un poeta gaèlic del segle III, anomenat Ossian. L’autenticitat d’aquest poeta provocà una discussió entre els crítics i els escriptors de l’època, car era sabut que no hi havia cap manuscrit gaèlic anterior al segle X: Blair el considerà autèntic, David Hume era escèptic respecte a la seva existència, Thomas Gray l’admirava i Samuel Johnson en negava l’autenticitat. Sembla que, efectivament, Mac Pherson es basava, en part, en uns originals antics, que transformà, però, a fons.