El santuari és esmentat ja el 1280; els anys 1320-27 fou reedificat. Esdevingué famós a la comarca a partir del segle XIV, quan la ciutat de Vic i les parròquies de la rodalia hi acudien en processó, sobretot en temps de secada. Durant la guerra de Successió, en els anomenats fets de la Gleva del febrer del 1714, José Carrillo de Albornoz y Montiel, comte de Montemar, hi feu assassinar 120 resistents civils austriacistes que, atrinxerats al santuari, intentaven aturar l’ofensiva de les tropes borbòniques. Malgrat que els comandaments de les forces francocastellanes pactaren la rendició amb els resistents austriacistes, Montemar ordenà degollar-los. Des del 2010 es commemoren aquests fets anualment.
L’església actual és un edifici barroc de planta oval, amb cúpula i capelles radials, construït per Josep Moretó els anys 1763-67; contenia un magnífic retaule de Pau Sunyer (1660-68), destruït el 1936 i reproduït fidelment el 1943. La imatge romànica del segle XIII fou destruïda també el 1936, i fou refeta el 1940. El nucli de poblament es formà a la fi del segle XVII. Pertanyia a la parròquia de Sant Hipòlit de Voltregà; adquirí l’autonomia el 1868. Arran de les desavinences amb el marquès de Comillas, Jacint Verdaguer visqué gairebé dos anys reclòs al santuari de la Gleva en el retir obligat pel bisbe Morgades, fins que el trencà el maig del 1895 desobeint l’ordre episcopal.