Aquesta església es trobava dins l’antic terme del castell d’Oristà, en l’àmbit territorial de la parròquia de Sant Vicenç de Prats de Lluçanès. Des d’un principi degué ser una simple capella rural, fins que en una època incerta deixà de tenir culte. El terme del castell d’Oristà es documenta a partir del 908. El lloc de Prats es troba en la documentació el 905. L’església de Sant Grau comença a aparèixer documentada a partir del 1074. Fins al segle XIII o XIV seguí atraient la pietat dels fidels dels voltants, que en els seus testaments li feien llegats piadosos. No se sap del cert quan deixà de tenir culte, però degué ser abans del 1686, ja que aquest any el bisbe Pasqual de Vic visità la parròquia i no esmenta que existís aquesta capella en el seu terme. Actualment no es coneix el lloc on es trobava. Únicament la falsa acta de dotació de l’església de Santa Maria d’Olost, atribuïda al 909, informa que un alou situat a Santa Creu de Joglars afronta amb la carretera, amb la casa de Sant Grau i amb Palafolls. Aquesta informació, veraç per un altre moment, fa pensar que es devia trobar vers l’indret de l’actual santuari de Lurda de Prats de Lluçanès o en un altre lloc de la serra que separa el terme de Prats del d’Olost i Santa Creu de Joglars. Pot esmentar-se com a possibilitat que es trobés on ara hi ha Sant Marçal, del terme de Prats i que la capella hagués canviat de titular, no obstant no tenim cap mena de confirmació en l’edifici actual, car correspon a una època molt posterior a les notícies que tenim de Sant Grau.