هَدَفَ الرّسول (صلى الله عليه وسلم) منذ لحظة وصوله إلى المدينة المُنوّرة إلى بناء مسجد جامع للمُسلمين. وكان قد اختار المكان المناسب. ثم تتابعت مراحل العمل حتّى تمّ البناء وأخذ المسجد صورته الكاملة قُبَيل وفاته. وقد حافظ الصّحابة والتابعون ومَن خَلَفَهم على هذا التخطيط، بل وقد حذوا حذوه في ما أقاموا من مساجد تفرّقت في آفاق الأرض. كان المكان مربدًا للخيل تقوم عليه أشجار النّخيل وتنتشر فيه الحشائش. فأمر الرسول بالنخيل فقطع، ولم يبعد النخيل المقطوع بل بقي في جوار المكان الذي بني فيه المسجد. وانتُزِعَت الحشائش مع تسيير الماء وجُمِعَت لتُجفَّف وتدخل في تكوين اللّبن. وبعد إزالة المعوّقات صارت أرض المربد فضاءً متسعًا.وبدأ الصحابة حفر الأرض حول المكان بعمق ثلاثة أذرعٍ لإقامة أساسات الجدران، ثم بُنِيَ الأساس بالحجارة، وفي ذلك فهمٌ معماريٌ واعٍ، لأن اللّبن في الأساسات تفسده المياه الباطنية، فلا يساعد على تماسك الجدران القائمة فوقه. وبينما كان الصحابة والرسول يحفرون الأرض في مواقع الجدران، كان فريق آخر يعدّ اللّبن لبناء الجدران باستخدام الطين ويابس النخيل ومخلفات الشعير أو القمح. إضافةً إلى اللّبن كانت هناك عناصر أخرى استُعمِلَت في عملية البناء هي الحجارة بأنواعها المختلفة من البازلتية، وهي كثيرة في أطراف المدينة، والصخور الجرانيتية والرملية، وقليل من الحجر الجيري، ثم جذوع النخيل التي انتزعت من أرض المربد عند تسويته.وتمّ فيها الشّكل النّهائي على عهد الرّسول، فكان البناء جدرانًا من أربعةٍ بلا سقفٍ. ولمّا شكا الناس من شدّة الحر ثم المطر، أقام الرسول لهم مظلةً من النخل، أعمدتها من جذوع، تحمل عوارض فوقها، ثم جعل على العوارض الجريد والسعف والخصف، ثم جعل فوق كل ذلك الطين المطور.في سنة 649م، شكا الناس إلى عثمان بن عفان ضيق المسجد فزاد فيه زياداتٍ كبيرةً، وأعاد بناءه بالحجارة المنقوشة، المنحوتة، والقصة، والجص، وجعل عمده من حجارةٍ منقوشةٍ، منحوتةٍ، وسقفه بالسّاج وهو خشب متينٌ معمّر. وكان عثمان يشرف بنفسه على العمل، وفرغ منه بعد عشرة أشهرٍ، وزاد من جهة القبلة إلى ما هو عليه الآن، ولم يزد من جهة الشرق، ولكن زاد من جهة الغرب والشمال فأصبح طول المسجد مائة وستين ذراعًا وعرضه مائة وخمسين ذراعًا. وكان المسؤول عن مباشرة العمل هو زيد بن ثابت.بقي المسجد بعد ذلك على حاله من عمارة عثمان ما يقرب من ستّين سنة حتّى بعث الوليد بن عبد الملك بمالٍ إلى عامله على المدينة ومكّة، عُمر بن عبد العزيز، وأمره بإعادة بناء المسجد وتوسعته. وبدأ العمل حتى فرغ من العمارة سنة 709م. وكان القائم على شؤون العمارة صالح بن كيسان معلّم عمر بن عبد العزيز ومؤدبه. وجُعِل للمسجد أربع مآذن وأُقيم في جدار القبلة أوّل محراب مجوّف. وأصبح المسجد في مساحة مائتي ذراعٍ طولاً ومثلها عرضًا. وبذلك يكون قد أدخل مساكن أمّهات المُسلمين فيه ومن بينها حجرة عائشة التي دُفِنَ فيها الرسول الكريم وصاحباه أبو بكر وعمر والدّور المجاورة للمسجد.وفي عهده أعلن العاهل السّعودي الملك عبد العزيز، سنة 1948-1949م، بيانًا على العالم الإسلامي بيّن فيه عزمه على توسعة الحرم المَدني. وقد بدأت أعمال التّوسيع عام 1950م. وقد أصدر الملك أوامره بالإبقاء على العمارة المجيدية لجمالها وفخامتها وتمّت الزيادة فيما وراءها. وكانت زيادة الملك عبد العزيز أكبر مساحةٍ أضيفت إلى رقعة المسجد منذ السنة السابعة للهجرة.في هذه العمارة الواسعة حُشِدت كلّ الوسائل الهندسية والتّقنية من دون المساس بالتوازن الجمالي لإمتداد المسجد القديم وتوسّعاته السابقة ليكون البناء قابلاً للتوسعة رأسيًا وأفقيًا لمضاعفة طاقة استيعاب المسجد وساحاته.