De l’antiga església de Sant Julià, que era situada a mitja falda de la muntanya de Montjuïc, prop del vell fossar dels jueus, hi ha esment documental des del segle X. Una de les primeres referències data de l’any 986, en una escriptura on s’esmenta l’“ecclesia sancti Juliani sita in monte jvdaico ” i poc temps després, el 995, es torna a esmentar en el testament sagramental del bisbe Vives de Barcelona, el qual llegà a l’església de Sant Julià un alou situat vora el riu Llobregat, que havia pertangut al clergue Orús.
Sant Julià de Montjuïc figura entre les deu parròquies del territori de Barcelona a l’inici del segle XI, i el seu terme parroquial era constituït per tota la part baixa de la muntanya, fins al mar, a mitja alçada, fins a l’església de Sant Fructuós, i pel costat de la ciutat limitava amb els termes parroquials de Sant Just i Sant Pastor i de Sant Miquel.
Fins al començament del segle XIV, concretament l’any 1323, l’església de Sant Julià de Montjuïc apareix esmentada com a parròquia, caràcter que perdé entre la darreria del segle XV i l’inici del segle XVI, sota l’episcopat d’Enric de Cardona (1505-1512); des de llavors es convertí en una capella ermitana i el seu antic terme parroquial fou repartit entre les parròquies de Sant Just i Sant Pastor i Santa Maria del Pi. Es té notícia que l’any 1594 Onofre Vidal servia d’ermità de la capella de Sant Julià per ordre del vicari general de la diòcesi.
L’església de Sant Julià fou enderrocada al segle XVII, en construir-se el castell de Montjuïc.