حاز أبو عبيدة على ثقة الرسول الله الإخلاصه وتفانيه في الإسلام، وحينما أراد الرسول الله ، أن يرسل مع أهل اليمن رجلا يعلمهم السنة والإسلام. أخذ
بيد أبي عبيدة بن الجراح وقال ((هذا) أمين هذه الأمة)).
وعندما استطاع أبو بكر الصديق له بسط نفوذه على الجزيرة العربية وقضى على جميع المرتدين أخذ يفكر في تحرير الأرض العربية خارج الجزيرة من السيطرة الأجنبية وبث الدعوة الإسلامية فيها. وبناء على هذا الرأي جهز جيشا بقيادة خالد بن الوليد الذي كان في اليمامة وأمره بالتوجه نحو العراق لمساعدة المثنى بن حارثة الشيباني وتولى القيادة العامة للجيوش الإسلامية المقاتلة في العراق وبعد مدة من الزمن جهز أبو بكر ثلاثة جيوش عهد بقيادتها إلى خيرة قادته وهم شرحبيل بن حسنة، ويزيد بن أبي سفيان، وأبو عبيدة بن الجراح ، وبدأت الجيوش تتجمع تباعا في الجرف) فإذا أن لأحدها أن يسير خرج إليه الخليفة مودعا. وقد سار أبو عبيدة على رأس جيش من المسلين عدته سبعة آلاف وخمسمائة رجل وقد أصدر أبو بكر أمرا لقادة الجيوش في الشام. إذا اجتمعتم على قتال فأميركم أبو عبيدة) فسلك أبو عبيدة طريق (المعرفة) وهي طريق على ساحل البحر وهي الطريق التي كانت تسلكها العرب عندما تذهب إلى بلاد الشام - حتى نزل الجابية - والجابية قرية تابعة لمدينة دمشق - ولما وصلت جيوش المسلمين إلى الشام أرسل (هرقل) جيوشه نحو جيوش المسلمين ليحول دون تجمعها ويشغلها بعضها عن بعض لتضعف ولا تقدر على التعاون فيما بينها - ولكن قادة المسلمين أفشلوا خطة هرقل حينما اجتمعوا في سهل قرب نهر اليرموك وكونوا جيشا واحدا يقوده قائد واحد لمواجهة الروم. طلب أبو عبيدة مددا من الخليفة ووعدهم بإرسال النجدات ووجه لهم الوصية
التالية:-
ص ٧