وتذكره الرشيد بعد أن فرغ من شغله الذي كان منهمكًا فيه وطلب إلى اسحق إحضاره فقال (ومن لي به يا أمير المؤمنين؟ ذاك غلام مجنون يزعم أن الجن تكلمه وتطارحه ما يزهي به من غنائه، فما يرى في الدنيا من يعدله، وما هو إلا أن أبطأت عليه جائزة أمير المؤمنين، وترك استعادته، فقدر التقصير به والتهوين لصناعته، فرحل مغاضبا ذاهبا على وجهه مستخفيًا عني، وقد صنع الله تعالى في ذلك لأمير المؤمنين فأنه كان به لمم يغشاه ويفرط خبطه، فيفزع من رآه). يقول المقري (فسكن الرشيد إلى قول اسحق وقال على ما كان به (فقد فاتنا منه سرور كثير).
خرج زرياب يؤم المغرب، فلما كان بأفريقيا أتصل بصاحبها زيادة الله الأغلى. ولكنه لم يطب له المقام بها فرحل عنها إلى المغرب الأقصى، وهنا كتب إلى الحكم بن هشام، أمير الأندلس المعروف بحبه للموسيقى، يستأذنه في دخول الأندلس والصيرورة إليه، فأذن له الأمير في كل ذلك من فوره. وعبر زرياب البحر إلى عدوة الأندلس، وبينما هو يتأهب للرحيل إلى قرطبة إذ سمع بوفاة الحكم فهم أن يعود أدراجه إلى المغرب لولا أن كتب إليه الأمير الجديد، عبد الرحمن الأوسط، يستقدمه ويعده أن ينيله كل ما تصبو إليه نفسه من مال وجاه. فقدم عليه زرياب، ويروون أن عبد الرحمنأحتفل لمقدمه أعظم احتفال إذ خرج بنفسه من قرطبة لتلقيه. وما هو إلا أن سمعغناءه وحديثه حتى شغف به فغمره بفضله وإنعامه وأجرى عليه من الرواتب والأرزاق الشيء الكثير، حتى لقد كان يركب وبين يديه مائة مملوك. وقدمه الأمير على سائر المغنين وبلغ من شدة شغفه به أن جعل في قصره بابًا خاصًا يستدعيه منه كلما أحب سماع غناءه الرائع وحديثه العذب الطريف.
٧ / ١٠