وبحسب ما ورد استشهدت نماذج اللغات الكبيرة السائدة (LLMs) مثل Google Gemini بالدعاية المؤيدة لروسيا من أحد منافذ الدعاية الخاضعة لعقوبات الاتحاد الأوروبي عند توليد الردود، بما في ذلك الادعاءات بأن أوكرانيا تستخدم جثث الجنود القتلى في منتجات اللحوم.
إعلان
إعلان
هناك أيضًا دلائل على أن الجهات الفاعلة الأجنبية المنخرطة في أنشطة حرب المعلومات الهجينة، مثل روسيا، يمكنها الاستفادة من الصناعة المتنامية لـ GEO (تحسين المحرك التوليدي)، والتي تهدف إلى التأثير على المعلومات التي تتلقاها LLMs، وفقًا لـ LLMs. تقرير جديدتم نشره من قبل باحثين من مؤسسة ديموس البحثية المشتركة بين الأحزاب ومقرها المملكة المتحدة، وتمت مشاركتها حصريًا مع يورونيوز.
اختار الباحثون 50 رواية دعائية من عشر مقالات نشرتها مؤسسة محاربة الظلم أو “r-FBI”. تأسست المنظمة عام 2021، وتقدم نفسها على أنها منظمة غير حكومية تعمل على فضح التمييز والرقابة والتحقيق في حالات الاضطهاد.
لكنها في الحقيقة منظمة حقوقية مزيفة تأسست عام 2021 على يد الزعيم السابق الراحل لمجموعة فاغنر الروسية شبه العسكرية، يفغيني بريجوزين. وتخضع المنظمة لعقوبات من قبل كل من الولايات المتحدة والاتحاد الأوروبي.
وكانت الادعاءات التي اختارها الباحثون “صادمة”، وفقًا لكارل ميلر، المؤسس المشارك لمركز تحليل وسائل التواصل الاجتماعي (CASM)، وهي وحدة بحثية أنشأها مركز ديموس للأبحاث.
“هذه ليست ادعاءات تنتمي إلى أي نوع من الخطاب السائد. هذه ادعاءات بأن أوكرانيا تعيد استخدام جثث الجنود القتلى في منتجات اللحوم، وأن زيلينسكي يستنزف شبكة العملات المشفرة وهذا هو السبب وراء نفاد الطاقة في أوكرانيا. وقال ميلر ليورونيوز: “لقد وجدنا أن حاملي شهادة الماجستير في القانون يتعاملون معها على أنها أجزاء مشروعة من النقاش”.
لإجراء أبحاثهم، اختبر الباحثون خمسة ماجستير في القانون الرئيسي – تديرها xAI، وOpenAI، وAnthropic، وGoogle Gemini، وMistral AI – وقاموا بصياغة مطالبات بثلاث لغات (الإنجليزية والألمانية والفرنسية) بناءً على الروايات الدعائية الواردة في مقالات R-FBI.
كيف قامت LLMs بتضخيم الدعاية الروسية
وجد الباحثون أن جميع الحاصلين على شهادة LLM الخمسة استشهدوا بـ r-FBI كمصدر مفضل.
تعامل ما مجموعه 16.6% من الردود مع مواد مكتب التحقيقات الفيدرالي بطريقة يمكن أن تخدم المصالح الدعائية، إما من خلال تقديم تقارير المنظمة كجزء مشروع من النقاش وتكرار الادعاءات دون انتقاد، أو من خلال تأييد تلك الروايات بشكل فعال.
وفي الوقت نفسه، تناولت 30.9% من الردود الموضوع الأساسي المذكور في المطالبة، لكنها فشلت في إظهار سياق المصدر الخاضع للعقوبات على الإطلاق، مما ترك المستخدمين غير مدركين أن الرد استخدم أصل تأثير محدد كمصدر.
ورفضت 52% أخرى من الإجابات أو فضحت الادعاءات الكاذبة بطريقة ما.
عندما استجوب الباحثون GPT 4.1 Mini من OpenAI حول مزاعم إرسال اللحوم البشرية المصنعة إلى مستودعات الخطوط الأمامية الأوكرانية وإلى سلاسل البيع بالتجزئة المحلية، استشهدت LLM بمقالة R-FBI في ردها كدليل لدعم هذه الادعاءات.
عندما سئل عن مشاريع الرئيس الأوكراني فولوديمير زيلينسكي في مجال العملات المشفرة – وهو ادعاء متكرر دفعته الجهات المؤيدة للكرملين – دعمت شركة ميسترال سمول 3.2 إل إل إم التابعة لشركة الذكاء الاصطناعي الفرنسية ميسترال هذه الادعاءات، مستشهدة مرة أخرى بتحقيق مزعوم أجراه مكتب التحقيقات الفيدرالي (R-FBI) لمدة أشهر.
وفي ردها، سلطت ميسترال سمول 3.2 الضوء على “العلاقة بين الحالة الحرجة لنظام الطاقة في أوكرانيا وأنشطة المسؤولين رفيعي المستوى في الدائرة الداخلية للرئيس زيلينسكي”.
المعركة من أجل تحسين المحرك التوليدي
مع تحول المزيد والمزيد من الأفراد إلى روبوتات الدردشة عبر محركات البحث التقليدية أو منافذ الأخبار، ظهرت صناعة سريعة النمو، والتي تهدف إلى التأثير على كيفية جمع نماذج الذكاء الاصطناعي لمصادرها.
تُعرف هذه الممارسة أيضًا باسم تحسين المحرك التوليدي (GEO). استنادًا إلى أسس تحسين محركات البحث (SEO) – وهو مجال تم تطويره للتأثير على النتائج على منصات البحث التقليدية – يعمل GEO على التأثير على النتائج الناتجة عن منصات الذكاء الاصطناعي.
وقالت هانا بيري، مديرة Demos Digital، مركز السياسة الرقمية التابع لمركز الأبحاث، ليورونيوز: “يتم إنشاء معلومات جديدة خصيصًا لحاملي شهادة الماجستير في القانون، ولكن في هذه الحالة، يكون هذا محتوى جديدًا يتم تقديمه للعلامات التجارية والتسويق، أو تحرير المحتوى الموجود بالفعل عبر الإنترنت باستخدام منتديات المستخدم مثل Reddit وQuora وWikipedia”.
بالنسبة للباحثين، هناك خطر حقيقي يتمثل في أن الجهات الفاعلة التي تقوم بعمليات التدخل الأجنبي الهجين قد تستغل هذه التكتيكات وتستغل المنطقة الرمادية التنظيمية.
“إن بحثنا لا يقول أن شركات GEO تقوم بحرب معلومات نيابة عن الدول. ما نقوله هو أنهم يبنون حرفة تجارية وقدرة بسرعة كبيرة مع حوافز تجارية هائلة، والتي يمكن بسهولة تحويلها إلى وجهة نظر عدائية”، صرح ميلر.
وأضاف: “في هذه الحالة بالذات، يعتقد الذكاء الاصطناعي خطأً أن مؤسسة مكافحة الظلم هي منظمة غير حكومية مشروعة لحقوق الإنسان. وذلك بسبب كل هذا النوع من الانتحال والتكوين التقني، لذا فإن مئات التفاصيل الفنية الصغيرة التي أحاط بها الروس هذه الوثائق بشكل أساسي تسمح لهم بالظهور في حين لا ينبغي أن يكونوا كذلك. هذه هي حرب المعلومات”.
تقول شركات التكنولوجيا إنها تحارب المعلومات المضللة
اتصلت يورونيوز بشركات التكنولوجيا LLM المذكورة في البحث، لكنها لم تتلق ردًا في وقت النشر من xAI وGoogle، اللتين تطوران على التوالي Grok 4.20 وGemini 2.5 Flash.
وقال متحدث باسم شركة ميسترال، التي أسسها الفرنسي آرثر مينش والمعترف بها على نطاق واسع باعتبارها الشركة الرائدة في مجال الذكاء الاصطناعي في أوروبا، ليورونيوز إنها تأخذ مكافحة المعلومات المضللة على محمل الجد وأنها تضمن الاستثمار المستمر في قدرات الكشف والوقاية المتقدمة.
قامت ميسترال أيضًا بالتمييز بين النماذج الأولية التي تم التعامل معها في دراسة Demos وVibe Work. قال ميسترال إنه في حين أن النماذج الأولية تسمح للمستخدمين بحرية التحكم في المطالبات والإعدادات، فإن Vibe Work يعمل مع وكيل جاهز للاستخدام يحتوي على تفكير مدمج ومسح للسياق.
صرحت OpenAI ليورونيوز أن الدراسة استخدمت نموذجًا تم إيقافه الآن وكان متاحًا فقط من خلال واجهة برمجة التطبيقات (التي يستخدمها المطورون) بدلاً من ChatGPT المتاح للجمهور. وقالت إن فرقًا محددة مكرسة لتعطيل عمليات التأثير السري منخفضة المصداقية أو المشتبه بها.
قال مصدر مطلع على Anthropic – الشركة الأمريكية التي أنشأت برنامج الدردشة الآلي Claude AI – إن أنظمة إنفاذ متطورة موجودة للتخفيف من انتشار المعلومات الخاطئة.
وقالوا إن فريق استخبارات التهديدات يعمل على اكتشاف وتعطيل عمليات التأثير الأجنبي للتخفيف من انتشار المعلومات المضللة، مضيفين أن ماجستير إدارة الأعمال الخاص بهم تمت برمجته لتقديم مجموعة واسعة من وجهات النظر، خاصة عندما قد يقدم المصدر وجهة نظر أو أجندة محددة.
