Naklolunur ki, Hazret-i Muhammed (S.A.V.)’in devesinin indiği arsa iki öksüz çocuğun mülküydü. Birisinin adı Sehl, ötekisinin de adı Süheyl’di. İki çocuk da Amr oğlu Râfi’nin oğullarıydılar ve Es’ad bin Zurâre’nin kefaletinde idiler. O arsada hurma satarlardı. Peygamber (S.A.V.) gelmezden önce Müslümanlar burada namaz kılarlardı. Ve Es’ad bin Zurâre cemaate imamlıkta bulunurdu.
Peygamber (S.A.V.):
— «Bu mahal kimindir?» diye sordu. Zurâre de:
— «Sehl ve Süheyl’indir. O iki kardeş de o yeri size bağışladılar,» dedi. Fakat, Hazret-i Muhammed (S.A.V.) kabul buyurmadı. O yeri 10 miskal altına satın aldı. Akçesini, çocuklara vermek üzere, Ebû Bekir’e havale etti. Arsanın yanı başında küffar mezarları ve hurma ağaçları vardı. Harabelikler bulunuyordu. Hazret-i Muhammed (S.A.V.):
— «Makbereleri açınız. Mezarlardan ölüleri çıkarınız. Kemikleri başka yere gömünüz!» diye buyurdu. Ashab da öyle yaptı. Kabirler düzeltildi. Toprağı dümdüz ettiler.
Bina yapılmaya başlayınca Muhacirler ve Ansar (Allah cümlesinden razı olsun) kireç ve taş taşıdılar. Peygamber (S.A.V.) de onlara uydu. O kerpiç ve taşları birlikte taşıyordu. Ve şu şiiri okuyordu:
— «Hayır, Ahiret hayrıdır ancak
— Yâ İlâhi, Muhacir ve Ansara sen rahmet eyle!»
Rivayete göre:
— «Ahiret armağanıdır tek armağan,
Ondan başka armağan,
Yoktur hiç bir zaman!»
Ve bu mısralar dörder kez tekrar ediliyordu!
Ashâb-ı kiram (Allah hepsinden razı olsun) Allah’ın Habibi’nin bu yapıya gösterdiği önemi görünce kendileri de işe başlayıp hepsi de candan ve gönülden dikkat gösterdiler. Onların da her biri şiirler okurlardı. Hazret-i Ali (Allah onun yüzünü kerim kılsın), Ammar da o şiiri okuyordu. Ashabdan bir kişi iş yapmadan oturmaktaydı. Ammar’ın yanından geçti. O sahabi, bu şiirle kendisine söz atılıyor sandı.
— Ey Ammar! dedi, sus! Yoksa bu elimdeki sopa ile seni döverim.
Peygamber (S.A.V.) bu sözleri işitince:
— Ammar benim iki gözümdür. Onu dövmeğe hiç bir kişinin gücü yoktur! diye buyurdu. Sahih-i Buhârî’de rivayet olunur ki. O gün sahabeler birer kerpiç götürürlerdi. Ammar (Allah ondan razı olsun) ikişer ikişer kerpiç götürmekteydi. Biri kendisi için, birisi de Allah’ın Resulü (S.A.V.) için. O dünyalar serveri (S.A.V.) onun başından ve yüzünden tozlarını silkelerdi ve:
— Ne yazık ki AmmaFı eşkiya cemaatı öldürür, o ise onları Cennet’e çağırmaktadır. O kişilerse onu Cehennem’e davet ediyorlar, derdi.
Medine mescidinin duvarlarının yapımı tamamlanınca sıra damı yapmaya gelmişti. Peygamber (S.A.V.):
— «Hurma ağaçlarını dama çekip damı örtünüz! Kalın ağaçlan da direk yapınız. Kimisini de Mihrapta kullanın!» diye buyurdu.
O zamanlar Kıble, Beytil Mukaddes yönündeydi. Mescit tamam olmadan önce namaz vakti geldiği zaman müslümanlar her nerede olursa olsun toplanıp namazı kılarlardı. Yapılan mescide üç kapı yaptılar. Birisine Rahmet Kapısı denildi. İkinci kapı Peygamber (S.A.V.) o kapıdan hâne-i saadetten çıkar, o kapıdan Mescide girerdi. Üçüncü kapı mescidin son tarafındaki kapı idi ki halk oradan mescide girerdi.
Bu Mescit bu halde tâ… Hazret-i ÖmeFin (Allah ondan razı olsun) zamanına kadar kaldı. Müminlerin emîri Hazret-i Ömer onu, cemaatın çok olmasından ötürü daha da genişletti. Fakat binanın şeklini değiştirmedi. Sonra Affan oğlu Osman (Allah ondan razı olsun) yapıyı değiştirip geniş bir hale soktu. Nakışlarla süsledi. Direkleri de nakışlı taşlarla ördürdü. Damını saz ağacından yaptı. Daha sonra Velid bin Abdül Melik zamanında Ömer bin Abdül Aziz onu daha da açtı. Mescid-i şerife bitişik olan Peygamber (S.A.V.)’in hatunlarının evlerini hep mescide kattı. Daha sonra da Abbas halifeleri zamanında Mehdi onu onardı. Ve ondan sonra Halife Me’mum onu yeniledi. Sonra Mısır Sultanı Kayıtbay imârda bulundu (Allah cümlesine Rahmet eylesin.)