في عام 70م اندلعت ثورة كبيرة في مدينة القدس وما حولها ضد الحكم الروماني، وقد تأكدوا أن لليهود ضلع كبير في هذه الأحداث، فحاصر الجيش الروماني القدس واقتحم الهيكل ونهب كنوزه ودمره تدميرا، لم يعد هناك حجر قائم فوق حجر! وهرب كل اليهود من بطش الجنود الرومان، وتفرقوا في عديد من الامم المجاورة فيما يعرف بالشتات الأكبر، وبحلول عام 132م لم يعد هناك يهودي واحد في فلسطين! وقد اتجهت عديد من القبائل جنوبا، واستقرت في الحجاز بمدينة يثرب.
وتقول بعض الروايات اليهودية إن استقرار اليهود في جزيرة العرب يعود لعهد النبي موسى عليه السلام في القرن الثالث عشر ق.م. والذي أرسل جيشًا للحجاز لمحاربة العماليق، وبعد ان انتصر عليهم استقر ذلك الجيش في يثرب. بينما تحدثنا رواية اخرى أن داود عليه السلام قد هاجر مع سبط يهوذا إلى مدينة خيبر، وتملك بها، وترك بعض جيشه هناك وعاد ببقيته إلى القدس.
ولكن في الواقع أن هذه الروايات كان يروجها يهود المدينة بين العرب ليتقربوا منهم، وليؤكدوا على احقيتهم بالبقاء بينهم، فهم ليسوا لاجئين ولكن ذوي حق! وكانت يثرب قبل الإسلام تضم تجمعا يُعد من أكبر تجمعات اليهود في شبه الجزيرة، ويتوزع في ثلاث قبائل: بني النضير وبني قريظة وبني قينقاع. الأولى والثانية كانتا من الكهنة ويقال لهما بنو هارون.
ورغم ذلك لم يكن عددهم كبيرا، فلم يكن يتجاوز عدد المقاتلة في القبائل الثلاث ألفي شخص، مما يعطينا صورة تقريبية عن عددهم الكلي. وهذا ما يفسر خسارتهم السيادة والنفوذ لصالح القادمين الجدد من الأوس والخزرج، اللتين اشتعلت بينهما حرب استمرت إلى ما قبل هجرة النبي محمد بن عبد الله صلى الله عليه وسلم إلى المدينة، وانقسم اليهود فيها بين الطرفين تحالفا وحربا وقتلا.
وكان لليهود أيضا تجمع في أعلى الحجاز على الطريق بين يثرب والشام في خيبر، ويقال لها ريف الحجاز، ولم يكن يتجاوز عدد المقاتلة فيهم 1400 شخص على أبعد تقدير، بالإضافة إلى تجمعات محدودة في فدك وتيماء ووادي القرى.
