ابن ابی الحدید از ابوسعید خدری روایت میکند: «ابوسعید خدری گوید: ما با عمربن خطاب در اولین حجی که در زمان خلافتش کرد، حج کردیم. چون عمر داخل مسجدالحرام شد، به حجرالاسود نزدیک شد و آن را بوسید و به آن دست مالید، و سپس گفت: من حقا میدانم که تو یک سنگی بیش نیستی! نه نفعی از تو ساخته است و نه ضرری! و اگر من نمی دیدم که رسول الله تو را می بوسد و دست به تو می مالد، هر آینه من هیچگاه تو را نمی بوسیدم و دستهای خود را به تو نمی سودم!
در اینحال امام علی (ع) فرمود: ای امیر مؤمنان! این سنگ هر آینه نفع میدهد و ضرر میرساند؛ و اگر تو میدانستی تأویل آنچه را که من میگویم از کتاب خدا، هر آینه میدانستی که آنچه را من میگویم همانطور است که من میگویم! خداوند تعالی میفرماید: «و یاد بیاور ای پیامبر! آن زمانی که خداوند ذریه بنی آدم را از پشت هایشان بیرون کشید و آنان را بر خودشان گواه گرفت که آیا من پروردگار شما نیستم؟ همه گفتند: آری! و چون آنان را بر امر توحید گواه گرفت و آنها اقرار و اعتراف کردند به آنکه خداوند پروردگار صاحب عزت و جلالت است و آنان بندگان او هستند، این عهد و پیمان را بر روی پوست نازکی نوشت و به این سنگ (حجرالاسود) خورانید! آگاه باش ای عمر که این سنگ سیاه، دو چشم دارد و یک زبان و دو لب دارد و در روز قیامت گواهی به برخوردها و آمدن های مردم بدینجا میدهد. و این سنگ امین خدای عزوجل در این مکان است. عمر گفت: ای أباالحسن! خداوند مرا در جائی که تو نباشی زنده نگذارد.»
مجلسی رضوان الله علیه بعد از نقل این داستان فرموده است: این داستان را غزالی در کتاب «احیاء العلوم» آورده است و بخاری و مسلم در صحیحین خود آورده اند، ولی ذیل آنرا که تنبیه أمیرالمؤمنین به عمر است نیاورده اند.
و ابن تیمیه در «منهاج السنة» از جانب عمر اعتذار جسته است که این گفتار عمر به حجرالاسود که تو نفعی و ضرری نداری بر اساس حقیقت نبوده، بلکه روی مصلحت و سیاست بوده است؛ چون کافران و مشرکانی که تازه وارد در دین اسلام شده بودند و به عبادت احجار و تعظیم و تکریم سنگ ها به امید نفع و از ترس پیدایش ضرر خو گرفته و الفت داشتند، بسیار بودند. و این کلام عمر به جهت آن بود که آن مشرکان خود را شریف و عزیز ندانند و بدین عملشان برای خود مکانی رفیع و منزلتی عالی قائل نشوند.
لیکن روایت ابن ابی الحدید این اعتذار را باطل میکند؛ زیرا بعد از آنکه حضرت، عمر را از سر بوسیدن و استلام کردن مطلع کردند و تأکید کردند که این سنگ دارای بهره و زیان است، عمر جهت اعتذار خود را در این کلامش بیان نکرد؛ و نباید بگوید: ای أباالحسن من زنده نباشم در زمینی که تو در آنجا نباشی! زیرا که ظاهر این گفتار، گفتار کسی است که جاهل بوده و اعتراف به خطا کند، و تتمه این روایت را حذف کرده اند برای آنکه از این اعتذار متمکن باشند.