يكشف تقرير جديد أن Grok-AI chatbot المجاني المدمج في إيلون موسك-أظهر “عيوبًا وقيودًا كبيرة” عند التحقق من المعلومات حول الصراع لمدة 12 يومًا بين إسرائيل وإيران (13-24 يونيو) ، والتي يبدو أنها الآن قد تهدأ.
قام الباحثون في مختبر أبحاث الطب الشرعي الرقمي التابع لمجلس المحيط الأطلسي (DFRLAB) بتحليل 130،000 منشور نشرته The Chatbot على X فيما يتعلق بالصراع الذي استمر 12 يومًا ، ووجدوا أنهم قدموا معلومات غير دقيقة وغير متسقة.
ويقدرون أن حوالي ثلث تلك المنشورات استجابت لطلبات التحقق من المعلومات الخاطئة التي تدور حول الصراع ، بما في ذلك مطالبات وسائل التواصل الاجتماعي غير المقررة واللقطات التي تبرز من تبادل الحريق.
يقول التقرير: “لقد أظهرت Grok أنها تكافح من خلال التحقق من الحقائق المؤكدة بالفعل ، وتحليل الصور المزيفة وتجنب الادعاءات التي لا أساس لها”.
“تؤكد الدراسة على الأهمية الحاسمة لتوفير دردشة منظمة العفو الدولية لتوفير معلومات دقيقة لضمان كونها وسيطة مسؤولة عن المعلومات.”
على الرغم من أن Grok غير مقصود كأداة للتحقق من الحقائق ، إلا أن مستخدمي X يتحولون إليها بشكل متزايد للتحقق من المعلومات التي تدور على النظام الأساسي ، بما في ذلك فهم أحداث الأزمات.
ليس لدى X برنامج لجهة خارجية لتكوين الحقائق ، ويعتمد بدلاً من ذلك على ما يسمى ملاحظات المجتمع حيث يمكن للمستخدمين إضافة سياق إلى المنشورات التي يُعتقد أنها غير دقيقة.
معلومات خاطئة ارتفع على المنصة بعد أن ضربت إسرائيل لأول مرة في إيران في 13 يونيو ، مما أدى إلى تبادل مكثف للنيران.
فشل Grok في التمييز الأصيل عن المزيفة
حدد باحثو DFRLAB مقطعين فيديو تم إنشاؤهما من الذكاء الاصطناعى والذين تم تصنيفهما كذباً على أنهما “لقطات حقيقية” ناشئة عن الصراع.
يُظهر أول مقاطع الفيديو هذه ما يبدو أنه دمار لمطار بن غوريون في تل أبيب بعد ضربة إيرانية ، ولكن من الواضح أنه تم إنشاؤه. عندما سئل عما إذا كان حقيقيًا ، تذبذب Grok بين الاستجابات المتضاربة في غضون دقائق.
ادعى زوراً أن الفيديو الخاطئ “من المحتمل أن يظهر أضرارًا حقيقية في مطار بن غوريون في تل أبيب من ضربة صاروخ حوثي في 4 مايو 2025” ، ولكن في وقت لاحق ادعى الفيديو “من المحتمل أن يظهر مطار مهراباد الدولي في طهران ، إيران ، التي تضررت خلال الغارات الجوية الإسرائيلية في 13 يونيو 2025.”
حددت Euroverify ، وحدة فحص الحقائق في EuroNews ، ثلاثة مقاطع فيديو أخرى تم إنشاؤها بواسطة الذكاء الاصطناعي والتي قال كذباً كانت أصيلة عندما طلب من مستخدمي X. ربطهم Chatbot بهجوم على مصنع Arak النووي الإيراني ويضرب على ميناء Haifa الإسرائيلي ومعهد Weizmann في Rehovot.
سبق أن اكتشف Euroverify العديد مقاطع الفيديو خارج السياق تداول على المنصات الاجتماعية المرتبطة بشكل مضلل بالصراع الإسرائيلي الإيران.
يبدو أن جروك ساهم في هذه الظاهرة. وصف chatbot مقطع فيديو فيروسي بأنه يظهر الإسرائيليين يفرون من الصراع في معبر Taba Border مع مصر ، عندما يظهر في الواقع رواد المهرجانات في فرنسا.
كما زعم أن مقطع فيديو عن انفجار في ماليزيا أظهر “صاروخًا إيرانيًا يضرب تل أبيب” في 19 يونيو.
chatbots تضخيم الأكاذيب
تأتي نتائج التقرير بعد أن أثار الصراع الذي استمر 12 يومًا بمثابة انهيار من المطالبات الخاطئة والتكهنات عبر الإنترنت.
ادعاء واحد ، بأن الصين أرسلت طائرات البضائع العسكرية لمساعدة إيران ، تم تعزيزها على نطاق واسع من قبل AI chatbots Grok and Perplexity ، وهي شركة ناشئة من الذكاء الاصطناعى البالغة من العمر ثلاث سنوات والتي أثارت جدلاً واسع النطاق لزعم استخدام محتوى شركات الإعلام دون موافقتها.
ادعى Newsguard ، وهي مراقبة معلومات مضللة ، أن كلا من الدردشة ساهمت في انتشار المطالبة.
نشأت المعلومات الخاطئة عن البيانات التي تم تفسيرها من موقع تتبع الطيران Flightradar24 ، والتي تم التقاطها من قبل بعض وسائل الإعلام وتضخيمها بشكل مصطنع من قبل AI chatbots.
يشير الخبراء في DFRLAB إلى أن chatbots تعتمد بشدة على وسائل الإعلام للتحقق من المعلومات ، ولكن في كثير من الأحيان لا يمكنهم مواكبة وتيرة الأخبار السريعة في مواقف الأزمات العالمية.
كما يحذرون من التأثير المشوه التي يمكن أن يكون لها هذه الدردشة حيث يصبح المستخدمون يعتمدون عليهم بشكل متزايد لإبلاغ أنفسهم.
“عندما تصبح نماذج اللغة المتقدمة هذه وسيطًا يتم من خلاله تفسير الحروب والصراعات ، يمكن أن تؤثر ردودها وتحيزاتها والقيود على السرد العام”.
