ابن اثیر نویسد: روزی که مردم با سفاح به عنوان خلیفه بیعت کردند، بر منبر شد و در بالاترین پله آن نشست و عموی او داود بن علی بر پله ای فرودتر از او، سفاح خطبه ای خواند که آغاز آن ستایش خدا و خویشاوندی عباسیان با پیغمبر، و نکوهش امویان و ستودن مردم کوفه بود و گفت «من صد درهم به عطای شما می افزایم.» و چون رنجور و تب زده بود، بر منبر نشست. داود برخاست و گفت «اکنون تاریکی از جهان رخت بر بست و پرده برداشته شد و آفتاب از برآمد نگاهش تابید.
مردم به خدا سوگند ما برای به دست آوردن خلافت برنخاسته ایم تا سیم و زر فراوان به دست آوریم یا نهر آب بگشاییم یا کاخ بسازیم. ما از این که می دیدیم شما در رنج به سر می برید و ما آسوده نشسته ایم، آزرده بودیم. رفتار زشت فراوان امیه با شما بر ما گران بود، ما می خواهیم با شما بدانچه در کتاب خدا و سنت پیامبر است رفتار کنیم.
مردم کوفه! به خدا سوگند ما پیوسته مظلوم بودیم و حق ما را به ستم از ما گرفته بودند تا آن که خدا به وسیله شیعیان ما از مردم خراسان، دولت ما را آشکار کرد. مردم کوفه! پس از رسول خدا خلیفه ای بر منبر شما جز علی بن ابی طالب و امیرالمومنین عبدالله بن محمد ننشسته و این خلافت از خاندان ما بیرون نخواهد رفت تا آن را به عیسی بن مریم تسلیم کنیم. اما آن که تاریخ حکومت ها را بررسی کند، همانند چنین گفتار، و کردار مخالف آن را فراوان خواهد دید. چنان که هنوز چند سالی از حکمرانی این خاندان نگذشته بود، که مردم بازگشت حکومت از میان رفته را آرزو می کردند.»
بدین صورت عباسیان جای امویان را گرفتند، اما کار پایان نیامده بود. درست است که مروان آخرین خلیفه اموی پس از فرار از شام به مصر علیا رفت و در بوصیر کشته شد و مردم با سفاح بیعت کردند، اما نه عباسیان و نه آنان که عباسیان را به حکومت رساندند بدین اندازه خرسند می شدند و نه زنده ماندن بزرگان خاندان اموی و نوادگان عبدالملک، به سود عباسیان بود و موافق میل آنان. باید آنان را نیز از میان بر داشت.
یعقوبی و دیگران درباره کشتار چنین نوشته اند: سلیمان بن هشام بن عبدالملک از ابوالعباس امان خواست و او وی را امان داد. سلیمان و دو پسرش همه روزه در مجلس او حاضر می شدند، و بر کرسی می نشستند. روزی که ابوالعباس با خویشان خود نشسته بود حاجب او بر وی درآمد و گفت «عربی بیابانی شتر خود را بر در خانه خوابانده است و از من رخصت می خواهد تا امیرالمؤمنین را ببیند، بدو گفتم برود و رخت سفر را از تن بیرون کند تا برایش رخصت بخواهم. گفت سوگند خورده ام که نه رخت خود را بیرون کنم و نه رخ خود را بگشایم مگر هنگامی که به رخ امیرالمؤمنین بنگرم.»
ابوالعباس پرسید «به تو نگفت کیست؟»
«چرا امیرالمؤمنین! می گوید سدیف مولای امیرالمؤمنین است. به او رخصت بده!»
سدیف درآمد و ابوالعباس را به امارت سلام گفت، سپس نزدیک شد و دست و پای او را بوسید و ایستاد و بار دیگر چنان کرد. آنگاه بر خواند:
أصــــبح الملک ثابت الآساس *** بــــالبهالیل من بنی العباس
یا أمیر المطهرین مـن الــرجس *** و یا رأس منتـــهی کل راس
أنت مـــهدی هــاشم و فـــتاها *** کم أنـاس رجوک بعد أیــاس
لا تـــــقیلن عــــبد شمس عثارا *** واقطعن کل رقلة و غــــراس
أفــنها ایــها الخــلیفه و احســـم *** عنک بالسیف شأفة الأرجاس
أنــزلــوها بحیث أنــزلـــها الله *** بــــدار الهــــوان و الاتــــعاس
و لقد ســـائنی و ســاء قـــــبیلی *** قربهم مــن نـــمارق و کــــراسی
خوفهم أظهر التــــ.ودد منـــهم *** و بهم مـــنکم کحـــز المواسی
و اذکروا مصرع الحسین و زید *** و قـــتیل بــــجانب الـــمــهراس
و القــتیل الذی بحـــران أمسی *** رهن رمس فی غـــربة و تــــناسی
امروز پایه های ملک اســــتوار گردید به بزرگانی از فرزندان عباس که هر نیکی را در خود فراهم دارند!
ای امیر پاک شدگان از پلیدی و ای رئیس آن که در ریاست به منتهی درجه رسیده.
تو مهدی آل هاشم و جوانمرد آنانی چه بسیار مردم که پس از نومیدی به تو امید بستند.
خطای فرزندان عبد شمس را مبخش و هر شاخ و بـــــنی از آنان را ببر.
ای خلیفه! عبد شمس را بمیران و با تیغ ریشه پلیدی ها از گرد خود قطع کن.
آنان را در جایگاهی که خدا فرود آورده فرود آرید: خانه خواری و هلاکت.
بر کرسی ها و فرش های گران بها نشستن آنان مرا و کسانی که اندکی پیش از من بودند بد آمد.
بیم آنان موجب آشکار نمودن دوستی آنان است حالی که بیم شما دل آنان را چون تیغ می برد.
کشتنگاه حسین و زید و کشته در کنار مهراس را آبی در کوه احد و از کشته در کنار مهراس (حمزه سیدالشهدا مقصود است) به یاد آورید.
و کشته ای که در حران شهری قدیمی و بزرگ میان رقه و رها بر سر راه موصل و (مقصود از کشته در حران ابراهیم الامام است) در گور و غربت و فراموشی است (تاریخ یعقوبی، ج3، ص 95-96 و در شمار و ضبط این بیت ها اختلاف است)
سلیمان پسر هشام که در مجلس بود از شنیدن این بیت ها خطر را احساس کرد، برخاست و گفت: «امیرالمؤمنین! مولای تو، تو را به کشتن من و دو پسرم می انگیزاند، چنین می بینم که می خواهی ناگهان ما را بکشی!»
ابوالعباس گفت «اگر قصد کشتن شما را داشتم، ناگهان تان نمی کشتم. اما اکنون که خیالی در خاطر تو افتاده، هیچ خیری در تو نیست.» پس به حاجب خود ابوالجهم گفت «او را با دو پسرش بیرون بر و گردنشان را بزن و سر آنان را برایم بیاور.»
ابن ابی الحدید به نقل از ابوالفرج همین شعرها را آورده و نویسد: «ابوالعباس رو به بنی امیه حاضر در مجلس کرد و گفت:
نبینم گذشتگان من به دست شما کشته شده باشند، و شما زنده مانید و خراسانیان را گفت دهید! و آنان با کافرکوب ها ایشان را خرد کردند جز عبدالعزیز پسر عمر بن عبدالعزیز را.» و در دیگر مصادر داستان با اختلاف در چگونگی آن دیده می شود. بعضی داستان نویسان این حادثه را با تفصیل بیشتر نوشته اند، ابن اثیر نویسد:
سفاح دستور داد بر کشته های آنان فرش افکندند و به طعام خوردن نشست و ناله مجرومان از زیر فرش به گوش می رسید. اما ابن اثیر این کشتار را در دمشق و به دستور عبدالله بن علی نوشته است.
طبری نیز نویسد: عبدالله بن علی آنان را که شمارشان هفتاد و دو تن بودند کنار نهر ابوفطرس که نهری است در فلسطین کشت. و بایستی چنین باشد. زیرا سران اموی هنگام اعلام خلافت سفاح در دمشق به سر می بردند. عبدالله بن علی دستور داد تا گور امویان را بشکافند. گورهای آنان را شکافتند و هشام بن عبدالملک را که تنش سالم بود تازیانه زدند و بر دار کردند و سپس سوختند و از این پس دستور قتل بنی امیه صادر شد و در عراق و دیگر جاها هر جا آنان را یافتند کشتند و دیگران مخفی گردیدند.
پس از این کشتار بعض از سران اموی به کسان سفاح پناه بردند، چنان که عمرو بن معاویة بن عمرو بن سفیان بن عتبه به سلیمان بن علی پناه برد و از او خواست برای وی از سفاح امان بخواهد و سفاح وی را امان داد و جمعی به سرزمین های دوردست گریختند که از جمله آنان عبدالرحمن معاویه معروف به عبدالرحمان داخل است که به اندلس رفت و در آن جا حکومتی پدید آورد تا سال 422 هـ ق دوام یافت.
رسم چنان است که با روی کار آمدن هر حکومتی کسانی که پایه گذار آن حکومت بوده اند توقعی افزون دارند و برآوردن این توقع، با طبع حاکم تازه سازگار نیست و یا اوضاع و احوال چنان رخصتی نمی دهد، ناچار به کشتن و یا تبعید آنان برمی خیزد بخصوص اگر به آنان بدگمان شود. سفاح و منصور نیز از این قاعده بیرون نبودند و قرعه نخستین به نام ابوسلمه بود.