في عام ٨٩٩ للميلاد، أعلن الإسماعيليون في شمال إفريقيا عن قيام الخلافة الفاطمية على يد عبيدالله المهدي. لكن حمدان قرمط لم يبايعه وأسس في السنة نفسها دولة القرامطة الشيعية في البحرين، انتشرت بينهم البدع وحادوا عمّا جاء به الدين الإسلامي من أحكام وسنن وفرائض، فحلّلوا الخمر وقاطعوا صوم رمضان وأبطلوا غسل الجنابة وغيّروا الحج والقبلة من مكة المكرمة الى القدس. بنى حمدان قرمط مركزاً لدعوته في مدينة الكوفة وسمّاه "دار الهجر"، واستغلوا ثورة الزنج التي استمرت ١٥ عاماً في الاستقطاب والتعبئة. ازدادت دولة القرامطة قوة وبلغت أوجها بعد أن تولى أبوطاهر الجنابي الإمامة سنة ٩٠٦ ميلادية، وشرعوا في شنّ غارات دموية عنيفة على قوافل الحجيج والمعتمرين ومن أشهر تلك الوقائع؛ هجوم كتيبة عسكرية تضم ١٨٠٠ جندي على قافلة للمعتمرين كانت تضم آلافاً من الرجال والنساء فذبحوا ٢٠٠٠ رجل و ٥٠٠ امرأة وسلبوا ممتلكاتهم وأموالهم. وعندما حاول والي مكة ابن محلب الدفاع عن أقدس أماكن الأرض، سيّر أبوطاهر الجنابي جيشاً ضخماً لمهاجمة المسجد الحرام، فقتلوا آلاف الحجيج وألقوا بجثثهم الدامية في بئر زمزم، ثم أمر جنوده بسرقة ستار الكعبة الشريفة وبابها والحجر الأسود، وبعد وساطة شاقة وأموال طائلة استعاد العباسيون الحجر الأسود وأعادوه الى موضعه من الكعبة الشريفة، بعد أن ظلّ محجوزاً عند القرامطة أكثر من عشرين عاماً. وكانت إرادة الله تعالى أن يريح المسلمين من شرورهم عام ١٠٧٣ ميلادية بعد تحالف عدد من القبائل العربية مع الأتراك السلاجقة ونجاحهم في القضاء على القرامطة.