Arapça Beytülmakdis olup “mukaddes ev” demektir; ilk kuruluşundan beri taşıdığı bu ad sonradan şehrin tamamını kapsamına almıştır. Şehir için müslümanların benimsediği Kudüs adı da aynı kökten gelmekte ve aslında şehri değil mâbedi ifade etmektedir.
İslâm âlimleri, Kur’ân-ı Kerîm’de el-Mescidü’l-aksâ adıyla anılan ve çevresinin mübarek kılındığı belirtilen yerin Beytülmakdis olduğu konusunda ittifak halindedir. Arapça aksâ “uzak” anlamındadır ve mâbedin Mekke’ye uzaklığından dolayı bu ad verilmiştir. Bir hadise göre ise burası, Mescid-i Harâm’dan sonra içinde insanların Allah’a ibadet etmeleri amacıyla yapılan en eski ikinci mâbeddir. Bugün Kâbe’ye çevresiyle birlikte Mescid-i Harâm denildiği gibi Mescid-i Aksâ’ya da çevresiyle birlikte Harem-i şerif denilmekte ve içinde Kubbetü’s-sahre’nin de yer aldığı kutsal mekân kastedilmektedir.
Mescid-i Aksâ’nın yerinin tesbiti ve planlanması Hz. Dâvûd ile başlar. Ancak Allah mâbedin Hz. Süleyman tarafından yapılacağını bildirir. Bunun üzerine Dâvûd, oğlu Süleyman’a durumu anlatıp mâbedi inşa etmesini emreder ve mâbed yapımıyla ilgili bütün malzemeleri ve elemanları ona teslim eder. Mâbed için gerekli taş ve kereste Lübnan dağlarından karşılanmış, Sûr Kralı Hiram bunları Hz. Süleyman’ın yolladığı işçilere ve kendi adamlarına inşaatta kullanılacak şekilde hazırlatıp Kudüs’e göndermiştir. Çünkü mâbedin yapımı sırasında ne keser ne çekiç sesinin duyulduğu belirtilmektedir.
Çok değerli eşya ile dolu olan Beytülmakdis, Hz. Süleyman’dan sonra zaman zaman istilâcıların yağmalama ve yıkımlarına mâruz kalmıştır. En büyük yıkım Bâbil Hükümdarı II. Buhtunnasr’ın Kudüs’ü üçüncü işgali sırasında olmuş, şehri tamamen tahrip eden Buhtunnasr yıkılan mâbedin kapı ve duvarlarından söktüğü altın kabartmalarla diğer kıymetli eşyayı şehirden topladığı ganimetlerle ve halkın büyük bir kısmıyla beraber Bâbil’e götürmüştür.
Günümüzde yahudilerin ilk Süleyman Mâbedi’nin bir bölümü olduğu düşüncesiyle önünde dua ettikleri ağlama duvarı bu mâbedin çevre duvarının batıya düşen kısmının kalıntısıdır. Kur’an’da bahsi geçen, Hz. Zekeriyyâ’nın ve Meryem’in ibadete çekildikleri odalar da bu binada olmalıdır. Ahd-i Cedîd’de verilen bilgilerden Hz. Îsâ’nın yaşadığı dönemde yahudilerin mâbede gereken saygıyı göstermedikleri anlaşılmaktadır; çünkü Îsâ Kudüs’e geldiğinde mâbedin pazar yerine çevrilmiş olduğunu görmüş ve bunu engellemeye çalışarak insanlara, Ahd-i Atîk’te mâbedin yapılış amacının bütün milletler için dua evi olduğuna ve geçmişte “haydut ini”ne çevrildiğine dair yer alan cümleleri hatırlatmıştır. Yine Ahd-i Cedîd’de mevcut bilgilerden Hz. Îsâ’nın orada İncil’i öğretmeye çalıştığı, fakat yahudi kâhin, yazıcı ve ihtiyarlarının buna karşı çıktıkları anlaşılmaktadır.
Hz. Peygamber’in mi‘rac yolculuğuna çıkmadan önce müslümanların kıblesi olan Mescid-i Aksâ’ya getirildiği İsrâ sûresinin ilk âyetinde açıkça belirtilmektedir. Hicretin ardından buranın kıble oluşu on altı- on yedi ay kadar sürmüştür. Bu durum İslâm’da Mescid-i Aksâ’ya verilen değeri göstermekte ve Kudüs’ün ele geçirilmesinden yıllar önce Resûl-i Ekrem’in söylediği, ibadet ve ziyaret maksadıyla gidilmesi gereken üç mescidden birinin Mescid-i Aksâ olduğu, bu mescidlerde kılınan namazın kişinin evinde tek başına eda edeceği namazdan elli bin kat daha çok faziletinin bulunduğu yolundaki hadisleri bunu pekiştirmektedir. Hz. Ömer, Kudüs’ün anahtarını teslim aldığında kendisi de bizzat çalışarak Mescid-i Aksâ’nın Hıristiyanlık döneminde molozlar altında kalmış olan yerini temizletip Sahre’nin güneyindeki düzlükte cemaate namaz kıldırmış, daha sonra da buraya bir mescid yaptırmıştır.
425’te yine deprem yüzünden harap olan Mescid-i Aksâ, Halife Zâhir’in emriyle yeniden yapılırcasına onarılmış, sağ ve sol taraftan dörder nef kaldırılarak bina küçültülmüştür. Haçlı istilâsından sonraki Selâhaddîn-i Eyyûbî’nin imarında bu onarım esas alınmıştır. Günümüzdeki binanın büyük bir bölümü de Zâhir döneminden kalmadır. Bu durum, özellikle son büyük onarımı gerçekleştiren Mimar Kemâleddin Bey’in, kendisine 1925’te İngiliz Kraliyet Mimarlar Akademisi üyeliğini kazandıran ve 1922’de başlayan titiz çalışmaları sırasında ortaya çıkmıştır. Kemâleddin Bey, kuzey kubbe kemerinin kuzey kısmındaki sıvaları kaldırdığı zaman içinde Zâhir’in adı geçen uzun kûfî bir kitâbenin yer aldığı sarmal kenger yapraklarından oluşan cam mozaik bir tezyinatla karşılaşmış ve yaptığı inceleme sonunda kubbe kasnağının da bu dönemden kaldığını anlamıştır.
Haçlı istilâsı sırasında büyük kısmı Templier şövalyelerine verilen Mescid-i Aksâ’da bazı değişiklikler yapılmıştır. Bu dönemde bir kısmı caminin içine, diğer kısmı bitişiğine rastlayacak şekilde bir kilise inşasına başlandıysa da tamamlanamamıştır.
Selâhaddîn-i Eyyûbî Kudüs’ü geri aldığı zaman Mescid-i Aksâ’nın eski haline getirilmesi Kubbetü’s-sahre’den daha fazla emek gerektirmiştir. 1217-1218 yıllarında Selâhaddin’in yeğeni Dımaşk Emîri el-Melikü’l-Muazzam tarafından kuzey cephedeki giriş revakı inşa ettirilmiştir.
Memlük ve Osmanlı dönemlerinde birçok defa tamir edilen Mescid-i Aksâ’nın Kanûnî Sultan Süleyman tarafından yapılan onarımıyla ilgili kitâbesi XIX. yüzyılın sonlarında kaybolmuştur. Yapının 1114’te (1702-1703) Mahmud Efendi tarafından tamir edildiğini belgeleyen kitâbe ise caminin batısında yer alan İslâm Müzesi’nde saklanmaktadır. II. Abdülhamid tarafından halıları ve kandilleri yenilenen yapıda İngiliz mandası döneminde 1922’den başlayarak gerçekleştirilen geniş kapsamlı onarım çalışmasını Mimar Kemâleddin Bey yönetmiştir. Harem dahilinde çeşitli zamanlarda yapılmış birçok kubbe, dört minare, beş sebil, çok sayıda kuyu ve sarnıç bulunmaktadır. Mescid-i Aksâ’nın altında girişi taş duvarla örülmüş bir bölüm vardır.
21 Ağustos 1969 tarihinde fanatik bir yahudi tarafından çıkarılan yangında kısmen tahribat gören mescidde Nûreddin Mahmud Zengî’nin yaptırdığı nefis ahşap minber de yanmıştır. Yangından kurtarılmış olan minberin birkaç tahtası İslâm Müzesi’nde teşhir edilmektedir. Yapı sonraki yıllarda aslına uygun biçimde imar edilmişse de yahudilerle Araplar arasında halen süren çatışmalar sebebiyle zaman zaman yine saldırı ve tahriplere mâruz kalmaktadır. Mescid-i Aksâ diğer mescidlerde olduğu gibi medrese hizmeti de vermiştir. Kütüphanesi Selâhaddîn-i Eyyûbî’nin Kudüs’ü tekrar fethinin ardından daha da zenginleştirilmiştir.