وحين مات يزيد بن معاوية عام 64 للهجرة، بايع الناس ابنه معاوية (الثاني) الذي سُرعان ما ترك الخلافة، فالتقطها من بعده مروان بن الحكم الذي تقلصت ولايته؛ بعد بايع كل من أهل الحجاز واليمن والبصرة والكوفة والشام كلها ما عدا دمشق، عبد الله بن الزبير الذي اتخذ من مكة عاصمة للخلافة الموازية، وخلال عامٍ واحدٍ هي فترة خلافته، استطاع أن يسترد أملاك دولته عدا الحجاز والعراق، ليأتي من بعده عام 65 هجريًا ابنه عبد الملك بن مروان.
كان الحجاج بن يوسف الثقفي في تلك الأثناء أحد الرعية في دولة عبد الله بن الزبير، وتذكر بعض الروايات بأنه خرج من ثقيف متوجهًا صوب مكة وفي نيته الانضمام لجيش والحرب مع ابن الزبير، وفي مكان يُسمّى ماء هزيل، أوقف فرسه ليشرب، وحينها باغته جند ابن الزبير وحاصروه بسياطهم، وجعلوه يضربونه قائلين:
«أما بلغك قول ابن الزبير فيكم بنى ثقيف: قصار الخدود، لئام الجدود، سود الجلود، بقية ثمود»!
وكانت الكلمات كفيلة بأن توغر صدره، فلما انتهت الرحلة عاد إلى دياره قبل أن يودعها وينطلق إلى الشام، حيث دار الخليفة الأموية.
وقد تكون الرواية تبريرا لمناصبة الحجاج العداء للمكيين الذي ظهر في قصف بلادهم بالمنجنيق بعد ذلك، ولكن حقيقة الأمر أن الحجاج قد رأي الموضوع ببصيرة نافذه، ألهمته إختيار الجانب الأقوى، فانحاز لعبد الملك بن مروان راضيا قانعا، دون داع لأن يطرده أهل مكه ليناصبهم العداء فيما بعد.
