22انسان در گرداگرد مسجد برپا كردند و براى روشنايى مسجد، بر فراز آن چراغ‌هايى نهادند.
عمر، همچنين فرمان داد تا با استفاده از صخره‌هاى بزرگ، و بدون بكارگيرى شن و آهك، آبراهى را كه سيل درّۀ ابراهيم را به درون مسجد مى‌آورد، ببندند؛ اين اوّلين سدّى بود كه در مكّه ساخته شد.
به سال 26 ه . (646 م) در عصر عثمان، بارديگر مسجد نياز به توسعه يافت تا مردمانى بيشتر را در خود جاى دهد؛ بنابراين، خانه‌هايى ديگر را خريدند وفضاى مسجدرا گسترش‌دادند. تااين‌زمان،مسجدسقف نداشت.
عثمان در اطراف مسجد، رواقهايى ساخت تا بر نمازگزاران سايه افكند.
پس از هم‌پيمانى حجازيان با عبداللّٰه بن زبير، در سال 64 ه . (684 م)، يزيد بن معاويه فرمانده سپاه خود، حصين بن نمير را به مكّه گسيل داشت.
مكّيان، هراسان از يورشهاى او، پيرامون بيت‌اللّٰه‌الحرام خيمه‌زدند،امّا حصين برفراز كوههاى احمر و ابوقبيس - در دو سوى مكّه - منجنيق نهاد و بر ابن زبير و يارانش آتش باريد. شعله‌هاى آتش پوشش كعبه را دربرگرفت و با نفوذ آن به درون خانه، كعبه نيز سوخت. با مرگ يزيد محاصرۀ مكّه پايان يافت، امّا در نتيجۀ يورشهاى پيشين، سنگ ديوار كعبه از بالا تا پايين فرسوده شده، حجرالأسود نيز سه‌پاره گشته بود. ابن‌زبير پاره‌هاى سه‌گانۀ آن را به هم پيوند داد و آن‌را براى نگهدارى، در خانۀ خود نهاد.
پس‌ازآن، ابن‌زبير سرشناسان شهررا گردآورد وبا ايشان دربارۀ بازسازى كعبه به رايزنى پرداخت و همگان پذيرفتند. در اين عمليات، طول كعبه از هجده ذراع به بيست و شش ذراع رسيد و با افزودن نُه ذراع، بلنداى آن به بيست و هفت ذراع بالغ شد. عرض ديوار آن را نيز دو ذراع درنظر گرفتند و در ميان كعبه سه ستون، در يك رديف نهادند، در حالى كه پيش از آن