Aquesta església es trobava dins l’antic terme del castell de Gurb, al lloc anomenat el Grau, prop de la cinglera, no lluny de l’actual cementiri. De molt aviat tingué funcions parroquials que ha mantingut fins avui dia, si bé traslladades a un altre temple edificat en un lloc diferent. El domini d’aquesta església ocasionà un llarg i a vegades violent conflicte entre els senyors del castell de Gurb i els bisbes de Vic. El castell de Gurb comença a aparèixer en la documentació l’any 886, quan Joamir i la seva muller Egila vengueren a Sunifred i a la seva muller Adabrada, diversos béns, un dels quals es trobava situat al terme del castell de Gurb. A partir dels volts de l’any 990 es documenta l’església i continua apareixent esmentada en els segles següents. Al final del segle X, abans d’ésser cedida vers l’any 993 pel bisbe de Vic, Fruià, al sacerdot, Bonfill, canonge de la seu vigatana i de la família dels senyors del castell de Gurb, ja devia tenir funcions parroquials, si bé no s’esmenten fins el 1055 de manera genèrica i, l’any 1080, explícitament. En el fragós i llarg conflicte que es generà a partir de l’esmentada donació d’aquesta església juntament amb d’altres esglésies del terme del castell de Gurb, i la repetició de la donació en la persona del clergue, Berenguer, nebot de l’anterior, quan aquest fou promogut a la mitra del bisbat d’Elna, començà el conflicte que detallem extensament en la part històrica de l’església de Sant Andreu de Gurb. Les vicissituds de la primera part del conflicte no finiren fins que vers l’any 1035 el bisbe Òliba feu una concòrdia amb Bernat Sendred de Gurb, senyor del castell, en la qual li cedí el domini de les quatre esglésies durant la vida del fill, que havia de ser clergue. Aquest pacte no es complí posteriorment i generà un nou i violent conflicte entre ambdues parts; el conflicte no finí fins que intervingué el comte Ramon Berenguer II, el qual aconseguí que el bisbe de Vic, Berenguer Sunifred de Lluçà i Guillem Bernat de Queralt i el seu fill, Bernat Guillem, signessin una concòrdia per la qual el bisbe cedia durant les seves vides, tres de les quatre esglésies del terme del castell de Gurb, entre les quals hi havia la de Sant Bartomeu del Grau. Però a la mort dels personatges es degué renovar el conveni, ara ja només amb els delmes de les parròquies de Sant Andreu de Gurb i de Sant Bartomeu del Grau, situació que durà fins a l’any 1165, que, a la mort de Berenguer II de Queralt, es feu un nou conveni amb la mare d’aquest, Sança d’Anglesola, ja només amb la meitat del delme d’ambdues parròquies, i a la mort d’aquesta senyora es degué incorporar definitivament al domini dels bisbes vigatans. L’església sofrí l’afegitó d’unes capelles laterals i subsistí fins a l’any 1780, que fou construïda una nova església en el poble actual, on es traslladaren les funcions parroquials, la qual cosa motivà l’abandó de l’església vella que restà sense culte i avui està totalment en runes.