وقال المسعودي في مروج الذهب: إنه توفي سنة سبع وعشرين ومائتين. وكان قد كف بصره، وخرف آخر عمره إلا أنه كان لا يذهب عليه شيء من الأصول لكنه. ضعف عن المناظرة ومحاجة المخالفين له.
وقيل ولد سنة خمس وثلاثين ومائة. وتوفي سنة تسع وثلاثين ومائتين. وحكى عنه أنه لقى صالح بن عبد القدوس وقد مات له ولد وهو شديد الجزع عليه، فقال أبو الهذيل: لا أرى لجزعك عليه وجهًا، إذ كان الإنسان عندك كالزرع. فقال صالح: يا أبا الهذيل إنما أجزع عليه لأنه لم يقرأ كتاب الشكوك. فقال: وما كتاب الشكوك؟ قال: كتاب وضعته من قرأه يشك فيما كان حتى يتوهم أنه لم يكن، ويشك فيما لم يكن حتى كأنه قد كان. فقال له أبو الهذيل: فشك أنت في موته واعمل على أنه لم يمت، وإن كان قد مات. وشك في قراءته الكتاب وأعمل على أنه قرأه، وإن لم يكن قرأه. فأخجله. وقيل إن الذي قال ذلك إبراهيم النظام ابن أخت أبي الهذيل. وهو الصحيح. ولأبي الهذيل: كتاب يعرف بميلاس. وكان ميلاس هذا مجوسيا جمع بين أبي الهذيل وبين جماعة من الثنوية فقطعهم أبو الهذيل. فأسلم فيلاس عند ذلك.
٢٦٥