يبدأ تاريخ تأسيس كنيسة أورشليم من يوم العنصرة وحلول الروح القدس على التلاميذ الأطهار في أورشليم، حيث قام الرسل القديسون بنشر الإنجيل في كل المسكونة، وذلك عملاً بوصيّة الناهض من القبر ربنا وإلهنا يسوع المسيح. أول رئيس أساقفة على أورشليم كان الشهيد والرسول يعقوب أخو الرب سنة ٦٢م . 

 
بعد الإضطهادات الأولى للمسيحيين من قبل معلمي الناموس اليهود ودمار أورشليم على يد القائد الروماني تيطس سنة ٧٠م، كان مقر كنيسة أورشليم مدينة بيلا، وهي واقعة شرقي ضفة نهر الأردن، وكانت تضم عدداً كبيراً من اليونانيين خلفاء  الإسكندر الكبير، ولأن عدد اليهود المسيحيين قد تقلص، أخذت هذه الكنيسة تأخذ الطابع اليوناني، وهكذا انتشرت في جميع أنحاء فلسطين حيث سكن قسم كبير من تابعيها في مدينة أورشليم. 

أخذ آخر أعضاء الكنيسة اليونانية في بيلا بالرجوع إلى أورشليم والسكن فيها بعد ثورة باركوخاب سنة ١٣٥م، حيث أُنشأت في الجهة الشمالية من المدينة جالية رومانية وسميت (إيلياكابيتولينا)، وكان قد حُظر على اليهود دخول أورشليم بالكليّة . أما المزارات الشريفة فكانت مطمورةً تحت الأرض وبني فوقها معابد وثنيّة . 

 
في ذلك الوقت كانت مدينة قيصرية مركزاً لرئاسة وتنظيم الكنيسة في الأراضي المقدسة، أما أورشليم (إيليا) فقد كانت قرية صغيرة وأسقفها كان تابعاً لمتروبوليتيّة قيصرية. حيث كان مسيحيو الأراضي المقدسة يواجهون اضطهاداً عنيفاً من قبل أباطرة الرومان مثل أدريانوس وديكيوس وذيوكليتيانوس ومكسيمينوس الذين قتلوا عدداً كبيراً منهم.