45يا عمر بن‌عبدالعزيز بنا شده است. با استناد به كتيبه تاريخى موجود بر سردر قديمى مسجد، در سال 654 ه .ق، يعنى در دوره حكومت ملك الناصر يوسف‌بن‌العزيز محمد (متوفاى 695 ه .ق) كه از احفاد صلاح‌الدين ايوبى بوده است، اين مسجد را شيخ عبدالرحيم عجمى شافعى بازسازى كرده است. همچنين مناره مسجد را در سال 771 ه .ق، «قاضى بهاءالدين على‌بن‌محمد بن ابى‌سواده» بازسازى كرده است. سپس در سال 855 ه .ق «شيخ عبدالكريم خوافى» 1، به بازسازى دوباره مسجد و توسعه آن از سمت شرق اقدام نمود و ضمن ايجاد زاويه‌اى در آن براى صوفيان، ورودى جديدى در قسمت جنوبى نماى خارجى مسجد احداث كرد. از آن پس، اين مسجد، با انتساب به عبدالكريم خوافى، به مسجد كريميه شهرت يافت. اما به مرور زمان بر اثر بى‌توجهى، بناى مسجد تخريب شد تا اينكه در سال 1302 ه .ق «جميل پاشا»، والى حلب در دوره سلطان عبدالحميد عثمانى، آن را بازسازى نمود و صحن آن را سنگفرش كرد. 2
در شبستان مسجد، سنگ زردرنگى وجود دارد كه در آن جاى پايى منسوب به حضرت محمد(ص) به چشم مى‌خورد. براساس داستان رايج مردمى، اين سنگ را براى نخستين بار، شيخ عبدالكريم خوافى در اين مسجد قرار داد. صاحب اعلام النبلاء در اين‌باره مى‌نويسد:
شبى شيخ عبدالكريم هاتفى را در خواب ديد كه به او گفت: فردا مردى عجمى (غيرعرب)، از سفر حج باز مى‌گردد و از جلوى مسجد عبور مى‌كند. او شترى دارد و در بار شترش سنگى است كه در آن اثر پاى پيامبر(ص) وجود دارد. آن مرد را متوقف كن و سنگ را از او بگير. صبح روز بعد، شيخ بيرون از مسجد به انتظار نشست تا اينكه مرد مورد نظر با شتر خود از آنجا عبور كرد.