101 در سال 250ه ق عمر بن يحيى فرماندار كوفه دستور داد كه قبر مطهر حضرت على(ع)را بازسازى كنند.
در قرن سوم ه ق والى طبرستان محمد بن زيد داعى(متوفى سال 287ه ق) ساختمان مرقد را تجديد بنا كرد و گنبدى براى مرقد ساخت و دورتادور آن را ديوار كشى كرد.
در اواخر قرن سوم شاهزاده ابو الهيجاء عبدالله بن حمدان(متوفى سال 317ه ق) كه يكى از شاهزادگان خاندان شيعى مذهب بنى حمدان بود مرقد مطهر را باز سازى كرد وآن را با پرده‌هاى نفيس و حصير گران قيمت فرش كرد.
در سال 372ه ق عضدالدوله بويه(متوفى سال 372ه ق) مرقد مطهر را دوباره بازسازى كرد و اموال بسيارى در اين راه خرج نمود وكارگران و نجاران بسيارى از ساير مناطق به آنجا برد و مردم را به رفتن به آنجا تشويق نمود.
ابن جبير جهانگرد معروف(متوفى سال 580ه ق) در اين باره مى‌گويد:
>در غرب شهر كوفه و در فاصلۀ يك فرسخى مرقد معروفى است كه به حضرت على بن ابى طالب(ع)نسبت داده مى‌شود كه متأسفانه بعلت كمبود و قت موفق به زيارت آن نشديم<.
ساختمان عضد الدوله در آتش سوزى سال 755ه ق در آتش سوخت زيرا كه ديوارهاى مرقد از جنس چوب ساج نقش دار بود. البته اين آتش سوزى همۀ آثار عضد الدوله را از بين نبرد بلكه قسمتى از آثار بنا برجاى ماند به طوريكه محمد