وشهد المسجد على مرّ التاريخ العديد من أعمال البناء والترميم والتوسعة، فقد جُدّد في عهد عمر بن عبدالعزيز، وفي العصر العباسي ما بين عامي 155 و159هـ، وفي نهاية القرن التاسع الهجري خُرِّب سقفه، فجدَّده شمس الدين قاوان.
فوق الرابية
وبُني المسجد قبل التوسعة الأخيرة فوق رابية صغيرة، طوله 8 أمتار، وعرضه 5,4 متر، وارتفاعه 5,5 متر، وله قبة واحدة مبنية بالطوب الأحمر، وفي شماله رواق طوله 8 أمتار، وعرضه 6 أمتار.
أكبر توسعة
وفي عام 1409هـ، شهد المسجد أكبر مشروعات توسعته، حين أمر الملك فهد بن عبدالعزيز آل سعود ـ رحمه الله ـ بإعادة بنائه وتوسعته، وتزويده بالمرافق والخدمات اللازمة، وافتتح عام 1412هـ، ويستوعب 650 مصليًا، بعد أن كان لا يستوعب أكثر من 70 مصليًا، كما يحوي منارة رفيعة، وقبة رئيسة تتوسط ساحة الصلاة، إضافة إلى أربع قباب صغيرة تتوزّع في جنباته.