فلما رأى أبو مسلم امتناعه من ذلك سير جماعة كمنوا له ليلًا، وكانت عادته أن يسمر عند السفاح، فلما خرج من عنده وهو في مدينته بالأنبار ولم يكن معه أحد وثبوا عليه وخبطوه بأسيافهم، وأصبح الناس يقولون: قتلته الخوارج، وكان قتله بعد خلافة السفاح بأربعة أشهر، وولي السفاح الخلافة ليلة الجمعة ثالث عشر شهر ربيع الآخر سنة اثنتين وثلاثين ومائة. ولما سمع السفاح بقتله أنشد:
إلى النار فليذهب ومن كان مثله ... على أي شيء فاتنا منه نأسف وذكر في كتاب «أخبار الوزراء» أن قتله كان في رجب سنة اثنتين وثلاثين ومائة.
وكان أبو سلعة يقال له: وزير آل محمد، فلما قتل عمل في ذلك سليمان ابن المهاجر البجلي:
إن المساءة قد تسر وربما ... كان السرور بما كرهت جديرا
إن الوزير وزير آل محمد ... أودى فمن يشناك كان وزيرا ولم يكن خلالًا، وإنما كان منزله بالكوفة في حارة الخلالين، فكان يجلس
٢ / ١٩٦