أصبحت الإسكندرية في العصر الإسلامي الذي بدأ بفتح مصر على يد عمرو بن العاص سنة 642م أصبحت ملتقى لكثير من العلماء والأئمة والأولياء الصالحين
وكما هو «الأكروبوليس» في المعمار الإغريقي أصبح المسجد يتوسط المدينة وتنتهي إليه شوارعها.
ويقول «ابن الحكم» صاحب أقدم نص تاريخي وصل إلينا عن مساجد الإسكندرية (وهو كتاب فتوح مصر)
أنه كان بمدينة الإسكندرية في النصف الأول من القرن الأول الهجري بالإضافة إلى مسجد عمرو بن العاص
(على الأرجح أنه كان موجوداً في نفس المكان الذي يشغله الآن المسجد العمري العتيق المجاور لضريح أبي الدرداء ) كان هناك خمسة مساجد أخرى وهي :
مسجد النبي موسى عليه السلام ومسجد سليمان عليه السلام ومسجد ذي القرنين ومسجد الخضر عليه السلام ..ومسجد الرحمة والذي بناه عمرو بن العاص بالإسكندرية بعد فتحها مباشرة ( ومن المرجح أن يكون مكانه بحديقة الشلالات)