Aquesta església és situada al nucli antic de la ciutat, entre els carrers Ciutat d’Hèrcules i la plaça de Sant Just. Tradicionalment és considerada la més antiga i, durant algun temps, l’única parròquia de la ciutat després de la Seu; hi fou enterrat el bisbe Pacià, trobat suposadament vers el 1590 pel bisbe Joan Dimes Lloris. El temple de Sant Just fou cedit el 965 pels almoiners de Mir a la catedral de Barcelona amb tots els béns, els delmes, les primícies i els drets parroquials; entre aquests almoiners es trobaven el comte Borrell II de Barcelona i l’abat de Sant Cugat del Vallès.
L’església, des dels segles X-XI, gaudia del particular privilegi del Testament Sagramental, segons el qual un testament fet de viva veu podia ser vàlid si els testimonis presentaven jurament solemne abans de sis mesos damunt l’altar de Sant Feliu, davant el rector de Sant Just. Aquest privilegi fou confirmat l’any 1283 pel rei Pere II en el Recognoverunt Proceres. En aquest sentit diversos documents dels segles XI i XII fan referència a testaments sagramentals jurats a l’església de Sant Just, entre els quals es consigna el que el 1173 es va jurar sobre el testament de la reina Peronella d’Aragó, muller del comte Ramon Berenguer IV.
Pertanyien a la seva demarcació parroquial el Palau Reial i molts casals nobles de Barcelona, alguns dels quals contribuïren a l’edificació de l’actual església, com ho revelen llurs escuts encastats en els murs i en les voltes de les capelles. Així mateix, en extingir-se, durant els segles XIII o XIV, la parròquia de Sant Julià de Montjuïc, la banda de mar de la muntanya fou agregada a la de Sant Just, fet que perdurà fins ben entrat el segle XIX.
D’altra banda, al final del segle XV o a l’inici del XVI, l’ardiaca major de la catedral de Barcelona fou constituït en rector primitiu de Sant Just.
L’església actual es començà a construir el 1345, i es pot dir que és el darrer dels grans temples gòtics de Barcelona. Bastit sobre la fonamentació de l’anterior temple romànic i del solar de l’antiga capella cemeterial de Sant Celoni, el temple de Sant Just i Sant Pastor correspon a un edifici d’una nau, dividida en cinc crugies o trams, amb voltes de nerviacions i claus de volta ornamentades; té sis capelles per banda, entre els contraforts, absis poligonal i finestrals calats amb vitralls de colors, obrats al segle XVI. El primer mestre d’obres fou Pere Arús, i posteriorment, Pere Buïgues.
L’altar major, dedicat també a la Mare de Déu de Montserrat, és d’estil neoclàssic, s’obrà entre el 1821 i el 1824, i substitueix l’anterior fet al segle XVI. També són del mateix estil la majoria de la resta d’altars, tot i que n’hi ha de neogòtics, obrats entre els segles XIX i XX. Cal destacar el retaule de la capella de Sant Feliu i de la Santa Creu, pintat el 1532 amb escenes de la vida de Jesús. El campanar fou alçat entre la darreria del segle XIV i l’inici del XV.
El temple, que ja havia patit les conseqüències de la guerra de Successió i havia estat enguixat de nou el 1774, fou profanat novament el 1936 i restaurat entre els anys 1940-1944 sota la direcció de l’arquitecte Jeroni Martorell.
L’església de Sant Just i Sant Pastor conserva com a piques baptismals —una al costat de la sagristia i una altra al portal major—, dos capitells datables als segles VI o VII, procedents probablement de la primitiva catedral dedicada a la Santa Creu. També servava, encastada en els murs interiors, una làpida sepulcral de la darreria del segle IX, que es guarda actualment al Museu d’Història de la Ciutat.