430براى خير و بركت ما دعا كنى،خداوند-عزّ و جلّ-اين آيه را نازل فرمود كه لاٰ تَقُمْ فِيهِ... و هم اكنون هيچ اثرى از اين مسجد باقى نمانده،زيرا از زمانهاى دور ويران گرديده است.
هنگامى كه مسلمانان مدينه از حركت پيامبر صلّى اللّه عليه و اله به سوى مدينه مطلع شدند،همه روزه از بامداد به سوى حرّه آمده و انتظار او را مى‌كشيدند و تنها گرماى آفتاب بود كه آنان را وادار به بازگشت مى‌كرد.پس از آن كه روزى همۀ مسلمانان به مدينه بازگشتند،مردى از يهوديان براى انجام كارى به سوى خانه‌اى سنگى در اين محل آمد.ناگاه رسول خدا و اصحاب او را،در حالى كه لباس سفيد بر تن داشتند،ديد،با صداى بلند فرياد زد:«اى فرزندان قيله-يعنى انصار-اين خواسته و آرزوى شما است كه انتظار او را مى‌كشيديد.» مسلمانان با جوش و خروش،سلاح‌هاى خود را برداشته،بدان سوى به حركت درآمدند و رسول خدا صلّى اللّه عليه و اله را در كنار حرّه يافتند،پس با وى به سمت راست حركت كرده و در قبيله بنو عمرو بن عوف و در منزل كلثوم بن هدم بن امرىء القيس در قبا توقف نمودند.
كلثوم بن هدم در كنار منزل خود جايگاهى براى خشكاندن خرماهاى خود داشت، رسول خدا صلّى اللّه عليه و اله آن را اختصاص به مسجد داد و در آن محل با كمك ديگران مسجدى بپا كردند.
و حضرت تا پايان زندگى همواره بدان مسجد مى‌آمد و اهل قبا نيز به امامت معاذ بن جبل در آن نماز اقامه مى‌كردند.پس از رحلت پيامبر صلّى اللّه عليه و اله نيز صحابه بدان مسجد مى‌آمدند و آن را گرامى مى‌داشتند.در كتاب بخارى نيز آمده است كه سالم غلام ابو حذيفه در ميان مهاجران اوليه از اصحاب رسول خدا صلّى اللّه عليه و اله در مسجد قبا نماز بپا مى‌داشت كه در ميان آنان ابو بكر و عمر نيز بودند.هنگامى كه عبد الملك بن مروان به حكومت رسيد،بر وسعت اين مسجد افزود،همچنين پس از آن كه عمر بن عبد العزيز مسجد النبى صلّى اللّه عليه و اله را ساخت، مسجد قبا را نيز توسعه داد و آن را به وسيلۀ سنگ و گچ بنا نمود و در آن ستونهايى از سنگ كه درون آن آهن و سرب به كار رفته بود،ساخت.همچنين مسجد را به وسيلۀ كاشى‌كارى تزيين نمود و شبستانهايى در آن ساخت و سقفى از چوب ساج بر آن قرار داد