وفي عام ١٩١٩ أطلقت الحكومة سراح المسجونين السياسيين المسلمين، فاجتمع زعماؤهم في لكنؤ بدعوة مولاي عبد الباري رئيس علماء أفرنجي محل فتداولوا في تأسيس جمعية إسلامية لتنظيم مطالب الاستقلال وكان قد ظهر في هذا الوقت تآمر الدول الكبرى على تمزيق شمل الدولة العثمانية.
فأطلق على هذه الجماعة (جمعية إنقاذ الخلافة من مخالب الأعداء الطامعين) وتأسست جمعية الخلافة في بومباي (١٨ فبراير ١٩٢٠) برئاسة غلام محمد فتو، ميان حاجي خان. ودخل في عضويتها الزعماء المسلمون المعروفون في الهند، ودعت اللجنة المسلمين إلى جمع الإعانات للدفاع عن حوزة الخلافة، فأقبل المسلمون بسخاء وجمع ما لا يقل عن سبعة عشر مليون روبية إلى أضعاف ذلك كما يقول السيد عبد العزيز التفالي الزعيم التونسي الأشهر في تقريره الذي قدمه للأزهر الشريف في يونيو ١٩٣٧ بعد زيارته للهند ودراسته لأحوال المسلمين هناك.
كان (غاندي) إلى تلك الآونة غير معروف في الهيئات السياسية في الهند، وكان متطوعًا في فرقة تمريض الجنود، ولما انتهت الحرب وانفصل عنها كانت جمعية الخلافة في بدء تآليفها فأقبل عليها وكان اسمه غير معروف إلا بين الأفراد القلائل الذين عرفوه في جنوب أفريقيا. فتيامن به زعماء المسلمين رغم تحذير المولوي (خوجندي) وكان على صلة به من قبل، ويعلم من أمره
٢ / ٣٤٧