Одетый в простое платье кочевника, в залатанном плаще, халиф встретил патриарха Софрония на Масличной горе, откуда на старом верблюде двинулся вместе с ним в город; халиф заверил, что жизнь и имущество христиан не подвергнется опасности, а их святыни не пострадают. Он посетил церковь Воскресения и совершил молитву за ее пределами, чтобы не дать мусульманам повода в будущем предъявлять свои права на нее. Затем он попросил проводить его к Храму, расстроился, увидев, что священное место превращено в свалку мусора, и вместе со своими приближенными стал собственноручно расчищать его (согласно некоторым источникам, призвав патриарха делать то же самое), до тех пор, пока из-под толстого слоя грязи не показалась священная скала Мориа. Над ней халиф велел поставить простую деревянную часовню.
Мусульмане называли и называют Иерусалим ал-Кудс, то есть «святой», и самым святым местом считается скала Мориа: там, согласно иудейской традиции (к которой христиане отнеслись со сравнительным равнодушием, а мусульмане яростно отвергли), Авраам собирался принести в жертву Богу своего сына Исаака, там Давиду явился ангел во время моровой язвы и, наконец, там располагался Ковчег Завета. Иными словами, это была святая святых Храма, построенного при Соломоне (хотя существует также мнение, что на этой скале стоял жертвенный алтарь).
Согласно 17 суре Корана («Путешествие ночью»), в 619 году пророк Мухаммед был ночью перенесен из Мекки в Иерусалим: оттуда, со скалы Мориа, он вознесся на небеса верхом на ал-Бураке — коне с человеческой головой.
Вместо часовни, построенной Умаром над скалой Мориа, в 687 году халиф Абд ал-Малик воздвиг мечеть, полное название которой — Куббат ас-Сахра («Купол над скалой»). Мусульманские заказчики этого здания, чей великолепный купол до сих пор возвышается над Иерусалимом, обратились к дамасским архитекторам (то есть мастерам византийской школы), намереваясь затмить вдохновивший их купол храма Воскресения — базилики, возведенной в IV веке Константином в том месте, где, как считалось, находились Голгофа и Гроб Господень.
К югу от большой мечети, на той же площади, которая называется Харам аш-Шариф («Священный двор»), возвышается мечеть ал-Акса («Далекая»): такое название носит в Коране сам Иерусалим. Со своими семью нефами византийского типа и серебряными куполами мечеть ал-Акса придает завершенность великолепному комплексу мусульманских священных зданий: ее строительство и последующие переделки заняли несколько веков, от эпохи Омейядов до эпохи Айюбидов (VII–XIII века).
Являясь целью иудейской алии («восхождения» к Храму), Иерусалим в то же время был главным местом паломничества христиан: эта религиозная практика, которая и ранее существовала в иудейско-христианских общинах (верующие, восходя к Храму, поклонялись также Мессии), укоренилась во II веке или даже раньше, а в IV–V веках получила одобрение христианских императоров. Согласно традиции, Животворящий Крест и другие реликвии, связанные со страстями Христовыми, были обретены благодаря матери Константина Великого императрице Елене: с тех пор в Иерусалиме и во всей Святой земле было построено множество христианских святилищ, ставших объектом постоянного паломничества.
Что же до мусульман, то ал-Кудс, после Мекки и Медины, является третьим святым городом для суннитов и одним из первых для шиитов. Паломничество в Иерусалим хотя и не является обязательным, но все же рекомендовано исламом; а в определенные исторические моменты, когда Мекка по политическим мотивам была недоступна, оно даже провозглашалось равноценным хаджу в город Каабы.
Завладев Иерусалимом, мусульмане были настроены уважать евреев и христиан, которые, как «люди Писания», имели право отправлять свой культ, пусть и с небольшими ограничениями. С VII до XI века в Иерусалиме в основном царил мир: христианские паломники продолжали беспрепятственно прибывать к своим святым местам, о чем свидетельствуют многочисленные отчеты о подобных путешествиях, написанные на латыни. В это же время намечалось разделение города на кварталы, организованное таким образом, чтобы исповедующие ту или иную религию могли жить рядом со своими святилищами. Так, мусульмане заняли северо-восточную и центральную части города, вблизи Харам аш-Шарифа; греки и западноевропейцы обосновались на северо-западе, в районе, прилегающем к храму Воскресения; армяне и грузины поселились на юго-западе, рядом с горой Сион и главным образом — близ большой, красивой и почитаемой церкви св. Иакова; евреи же сосредоточились в южной части города, между греческим кварталом и западной стеной Храма. Таково было этно-конфессиональное разделение города, которое — если не считать периоды нашествия крестоносцев с 1096 по 1187 годы — соблюдалось и далее, несмотря на многочисленные конфликты, до самых арабо-израильских войн 1948–1967 годов.