Masjidil Haram memiliki berbagai pengertian. Ada yang menyebut bahwa Masjidil Haram adalah tanah suci di Kota Mekah. Namun saat ini nama Masjidil Haram diidentikkan dengan nama sebuah masjid di Kota Mekah, Arab Saudi. Di tengah masjid inilah berdiri kokoh Kabah sebagai kiblat sholat seluruh muslim dunia. Saat ini, Masjidil Haram merupakan masjid terbesar di dunia. Sebagai masjid pertama yang dibangun di bumi, Masjidil Haram tercatat sebagai masjid tertua di dunia.

Masjidil Haram berbentuk persegi dengan Kabah berada di tengah-tengahnya. Masjidil Haram dan Kabah saling melengkapi dan tidak dapat dipisahkan satu sama lain. Tempat ini terkenal sebagai tempat suci umat Islam. Di sinilah pusat ibadah haji dan umroh dilakukan. Muslim dari berbagai penjuru dunia berdatangan ke tempat ini untuk beribadah seperti yang telah dicontohkan oleh Nabi Muhammad SAW.

Ada riwayat yang mengisahkan bahwa asal mula lokasi Masjidil Haram dan Kabah telah ada sejak Nabi Adam. Kabah yang dibangun Nabi Adam diyakini hancur oleh banjir hebat pada zaman Nabi Nuh. Kemudian Kabah kembali dibangun pada zaman Nabi Ibrahim.

Nabi Ibrahim membangun Kabah atas perintah Allah SWT. Pemilihan letak Kabah pun atas petunjuk Allah SWT. Bersama anaknya, Nabi Ismail, Nabi Ibrahim membangun Kabah dan masjid di sekitarnya. Nabi Muhammad SAW pernah mengatakan bahwasanya masjid pertama yang dibangun di muka bumi adalah Masjidil Haram.

Saat di bangun pada zaman Nabi Ibrahim, Kabah masih berdiri sendiri dengan halaman luas yang kosong tanpa tembok maupun pagar. Pada masa khalifah Umar bin Khattab, sekitar tahun 638M, dimulailah pembangunan penataan sekeliling halaman Kabah. Renovasi pertama ini dimulai dengan perluasan lahan. Rumah-rumah yang berdiri di sekeliling Kabah dibeli untuk kemudian dirobohkan. Hal ini dimaksudkan agar area sekitar Kabah terbebas dari perumahan penduduk. Renovasi ini berlanjut hingga masa khalifah Utsman bin Affan sekitar tahun 647M.

Sekitar tahun 692M, renovasi Masjidil Haram masuk pada tahap pembangunan tembok yang mengelilingi Kabah. Berbagai dekorasi juga menghiasi beberapa bagiannya, seperti pada bagian atap dan pilar masjid.

Perluasan Masjidil Haram terus dilakukan dengan banyak perbaikan agar dapat menampung jamaah haji dan umroh yang setiap tahun jumlahnya semakin banyak. Pilar masjid yang semula terbuat dari kayu diganti dengan pilar marmer agar lebih kokoh. Sekitar abad ke-8, didirikan menara masjid yang pertama. Di tahun-tahun selanjutnya, menara masjid ditambah menjadi 4 buah.

Pada zaman Ottoman Turki, sekitar tahun 1658, atap masjid yang semula rata diganti dengan kubah. Pergantian ini dilakukan oleh arsitek kenamaan Turki, Mimar Sinan. Bagian dalam kubah dihiasi dengan kaligrafi yang indah. Sentuhan desain Sinan ini diyakini sebagai cikal bakal arsitektur masjid modern.

Sekitar tahun 1620, Kota Mekah dilanda banjir bandang sehingga Masjidil Haram dan Kabah mengalami kerusakan cukup parah. Perbaikan segera dilakukan agar masjid dan Kabah tetap bisa digunakan untuk berhaji.

Perluasan Masjidil Haram dan penataan kawasannya secara besar-besaran terus berlanjut di zaman kerajaan Arab. Desain awal dari zaman Turki diganti seluruhnya. Beberapa menara baru didirikan dan lantainya diganti dengan marmer. Bukit Safa dan Marwa dibuat menjadi bagian dari bangunan Masjidil Haram. Area terbuka untuk sholat pun ditambah.

Hingga saat ini, proses perluasan Masjidil Haram masih berlangsung. Pembangunan dilakukan untuk memenuhi kebutuhan jamaah haji yang semakin membludak.