És possible que aquesta església, situada en el despoblat de Rubió de Sòls o de Baix i avui dedicada a la Immaculada Concepció, fos la parròquia del terme del castell de Rubió, documentat des del 1018. Si fos així, es correspondria a l’església de Rubió que apareix en la relació de parròquies del deganat d’Urgell que contribuïren a les dècimes dels anys 1279 i 1280. El capellà de Rubió es consigna, així mateix, en la dècima de la diòcesi d’Urgell del 1391. L’actual edifici conserva encastats en la façana de ponent dues carteles i un lateral de sarcòfag gòtic que denoten l’antiguitat del temple.
L’actual parròquia de Rubió, dedicada a sant Miquel i situada a Rubió del Mig, és un edifici del segle XVI, d’estil renaixentista.