وقد جاء عنه الثناء على الإمام أحمد في صبره في المحنة وقال: «إن الله أعز هذا الدين برجلين، أبو بكر الصديق يوم الردة وأحمد بن حنبل يوم المحنة».
وقال ابن أبي حاتم الرازي في كتاب الجرح والتعديل: «وترك أبو زرعة الرواية عنه من أجل ما كان منه في المحنة وكان أبي يروي عنه لنزوعه عما كان منه».
وفي تاريخ بغداد أن عباس العنبري روى عنه أنه قال: «قوي أحمد على السوط وأنا لا أقوى»وقال ابن عمار: «ما أجاب إلى ما أجاب ديانة إلا خوفا»، وقال ابن السبكي في طبقات الشافعية: «وكان علي بن المديني ممن أجاب إلى القول بخلق القرآن في المحنة فنقم ذلك عليه وزيد عليه في القول، والصحيح عندنا أنه إنما أجاب خشية السيف»قال ابن عدي: «سمعت مسددا ابن أبي يوسف الفلوسي يقول:
قلت لابن المديني: مثلك في علمك يجيب إلى ما أجبت إليه. فقال يا أبا يوسف: ما أهون عليك السيف»، وعنه: «خفت أن أقتل ولو ضربت سوطا واحدا لمت».
٦ / ٣١٦