Mekke'de insanlar için kurulmuş ilk beyt Kâbe-i Muazzama olmasına rağmen müslümanlar o zulüm devirlerinde orada rahatça ibadet yapamamışlardı. Bu sebeple Medine'de topluca ibadet yapabilecek bir mescide gerçekten ihtiyaç vardı.
İlk zamanlar Resulullah Aleyhisselâm, nerede bulunursa namazını orada kılar, müslümanlara da kıldırırdı. Namaz vakti nerede gelse, cemaat olup namaz kılarlardı. Hatta davar ağıllarında kıldıkları bile olurdu. İlk olarak bir mescid yapmak gerekiyordu.
Resulullah Aleyhisselâm Ebu Eyyûb Ensârî -radiyalluhu anh-in evinde geçici olarak ikamet ederken, bir yandan da hemen hiç vakit geçirmeden bir mescid yapımı için teşebbüse geçti.
Zaten Medine'ye ilk geldiği gün, devesinin çöktüğü arsa bu hizmet için tayin edilmişti. Burası Neccar oğullarından Sehl ve Süheyl adında iki yetim çocuğa ait hurma kurutma yerinin bir parçası idi. Babalarından miras kalmıştı. Resulullah Aleyhisselâm'ın hicretinden önce Esâd bin Zürâre -radiyallahu anh- burada arkadaşları ile birlikte toplanır ve namaz kılarlardı.
Resulullah Aleyhisselâm yetimleri çağırarak bu yeri mescid yapmak için satın almak istediğini, kendilerinin ne isteyeceklerini sordu.
Yetimler: "Vallahi biz para istemeyiz yâ Resulellah! Biz onun bedelini Allah'tan isteriz. Onu sana Allah için bağışlıyoruz!" dediler.
Resulullah Aleyhisselâm parasız kabul etmeyerek orayı gençlerden on miskal altına satın aldı. Hazret-i Ebu Bekir -radiyallahu anh- bu parayı hemen ödedi.
Medineli müslümanlar arazilerinin fazlalarını da bağışladılar ve hatta:
"Yâ Resulellah! İstersen evlerimizi de al!" dediler.
Resulullah Aleyhisselâm onlara:
"Evlerinizin hayrını görünüz!" buyurdu.
Arsa üzerinde çukurlar, tümsekler, harabeler, hurma ağaçları vardı, Bir tarafında da müşrik kabirleri bulunuyordu. Resulullah Aleyhisselâm'ın emriyle ağaçlar köklerinden kesildi, mezarlar açılıp kemikler başka yerlere nakledildi. Çukurlar, tümsekler, harap yerler tesviye edildi. Hurma ağaçlarının gövdeleri direk olarak kullanılmak üzere sıra ile dizildi.
Resulullah Aleyhisselâm önce kerpiç kestirdi, kereste tedarik ettirdi. Daha sonra o arsa üzerine kıblesi Kudüs tarafına olmak üzere bir mescid yapımına başlandı.
Temeli taştan yükseltildi, duvarlar kerpiçten örüldü. İnşaatta çamurdan harç kullanıldı. Direkleri hurma ağaçlarından yapıldı, üzeri de hurma dalları ve yaprakları ile örtüldü, zemin kuru ve topraktı.
Resulullah Aleyhisselâm'ın çalışmasına ihtiyaç duyulmadığı halde, bizzat kendisi işçi gibi çalışıyor, taş ve kerpiç taşıyordu. Bazen ağır kayaları yüklenir, göğsü darala darala taşırdı. Onun bu çalışmasını gören müslümanlar gayretlerini artırırlardı. Çalışırken her biri güzel neşideler okurlardı.
Resulullah Aleyhisselâm onların canla başla çalıştıklarını gördükçe:
"Allah'ım! Gerçek hayır ancak ahiret hayırıdır, Ensâr ve Muhâcir'e sen yardım eyle!" buyururdu. (Müslim: 523)
•
Oldukça sade bir görünümü olan mescid, herhangi bir değişiklik veya ilâve yapılmaksızın dokuz yıl bu halde kaldı. Sonra Hazret-i Ömer -radiyallahu anh- bir takım güzel değişiklikler yaptı. O dönemde olduğu gibi yine kerpiç ve hurma keresteleri kullandı. Ayrıca direklerini yeniledi.
Mescid önceleri yatsı ve sabah namazı vakitlerinde, kuru hurma dal ve yapraklarıyla kabukları yakılarak aydınlatılırdı. Temim-i Dârî -radiyallahu anh- Medine'ye gelirken kandil ve zeytinyağı getirmişti. Kandilleri astırdı, içine zeytinyağı koydurdu. Güneş batıp karanlık çökünce yaktırdı. Resulullah Aleyhisselâm gelip mescidin kandillerle aydınlandığını görünce, bunu kimin yaptığını sordu. "Temim-i Dâri yaptı." dediler.
Şöyle buyurdu:
"Sen İslâmiyet'i ve mescidi nurlandırdın, Allah da seni dünyada ve ahirette nurlandırsın!"
İlk zamanlar kıble Kudüs-ü şerif olduğu için, kapısı güneye bırakılmıştı. Sonradan kıblenin Kâbe-i muazzama'ya doğru değişmesi üzerine tâdilât yapılmış, kapı ile mihrap yer değiştirmiştir...