الذكاء الاصطناعي الخاص بإيلون ماسك يتم استخدام chatbot Grok لإغراق X بآلاف الصور الجنسية للبالغين والقاصرين الذين يرتدون الحد الأدنى من الملابس. يبدو أن بعض هذا المحتوى لا ينتهك سياسات X الخاصة فحسب، والتي تحظر مشاركة محتوى غير قانوني مثل مواد الاعتداء الجنسي على الأطفال (CSAM)، ولكنه قد ينتهك أيضًا إرشادات متجر تطبيقات Apple ومتجر Google Play.
تحظر كل من Apple وGoogle صراحةً التطبيقات التي تحتوي على مواد CSAM، وهو أمر غير قانوني لاستضافته وتوزيعه في العديد من البلدان. يحظر عمالقة التكنولوجيا أيضًا التطبيقات التي تحتوي على مواد إباحية أو تسهل التحرش. يقول متجر تطبيقات Apple إنه لا يسمح بـ “المواد الجنسية أو الإباحية الصريحة”، فضلاً عن “المحتوى التشهيري أو التمييزي أو الدنيء”، خاصة إذا كان التطبيق “من المحتمل أن يهين أو يخيف أو يلحق الضرر بفرد أو مجموعة مستهدفة”. يحظر متجر Google Play التطبيقات التي “تحتوي على أو تروج لمحتوى مرتبط بالسلوك الجنسي المفترس، أو توزع محتوى جنسيًا بدون موافقة”، وكذلك البرامج التي “تحتوي على أو تسهل التهديدات أو التحرش أو التنمر”.
على مدار العامين الماضيين، قامت شركتا Apple وGoogle بإزالة عدد من تطبيقات “nudify” وإنشاء الصور بالذكاء الاصطناعي بعد أن وجدت التحقيقات التي أجرتها هيئة الإذاعة البريطانية (BBC) و404 Media أنه تم الإعلان عنها أو استخدامها لتحويل الصور العادية بشكل فعال إلى صور فاضحة للنساء دون موافقتهن.
ولكن في وقت النشر، يظل كل من تطبيق X وتطبيق Grok المستقل متاحين في كلا متجري التطبيقات. ولم تستجب شركات Apple وGoogle وX لطلبات التعليق. يتم تشغيل Grok من قبل شركة Musk الناشئة في مجال الذكاء الاصطناعي والتي تبلغ قيمتها مليارات الدولارات، والتي لم تستجب أيضًا لأسئلة WIRED. وفي بيان عام نُشر في 3 يناير، قالت X إنها تتخذ إجراءات ضد المحتوى غير القانوني على منصتها، بما في ذلك CSAM. وحذرت الشركة من أن “أي شخص يستخدم Grok أو يدفعه إلى إنشاء محتوى غير قانوني سيعاني من نفس العواقب كما لو قام بتحميل محتوى غير قانوني”.
يقول سلون تومسون، مدير التدريب والتعليم في EndTAB، وهي مجموعة تعلم المنظمات كيفية منع انتشار المحتوى الجنسي غير التوافقي، إنه “من المناسب تمامًا” لشركات مثل Apple وGoogle اتخاذ إجراءات ضد X وGrok.
لقد انفجرت كمية الصور الصريحة غير التوافقية على X التي أنشأها Grok خلال الأسبوعين الماضيين. وقال أحد الباحثين لبلومبرج إنه على مدار 24 ساعة بين 5 و6 يناير، كان جروك ينتج ما يقرب من 6700 صورة كل ساعة حددوها على أنها “موحية جنسيًا أو عري”. قام محلل آخر بجمع أكثر من 15000 عنوان URL للصور التي أنشأها Grok على X خلال فترة ساعتين في 31 ديسمبر. راجعت WIRED ما يقرب من ثلث الصور، ووجدت أن العديد منها تظهر نساء يرتدين ملابس كاشفة. تم وضع علامة على أكثر من 2500 منها على أنها لم تعد متاحة في غضون أسبوع، في حين تم تصنيف ما يقرب من 500 على أنها “محتوى للبالغين مقيد بالفئة العمرية”.
في وقت سابق من هذا الأسبوع، أدان متحدث باسم المفوضية الأوروبية، الهيئة الإدارية للاتحاد الأوروبي، علنًا الصور الجنسية الصريحة وغير التوافقية التي ينشئها Grok on X ووصفها بأنها “غير قانونية” و”مروعة”، وقال لرويترز إن مثل هذا المحتوى “ليس له مكان في أوروبا”.
يوم الخميس، أمر الاتحاد الأوروبي شركة X بالاحتفاظ بجميع المستندات والبيانات الداخلية المتعلقة بـ Grok حتى نهاية عام 2026، مع تمديد توجيه الاحتفاظ المسبق، لضمان قدرة السلطات على الوصول إلى المواد ذات الصلة بالامتثال لقانون الخدمات الرقمية للاتحاد الأوروبي، على الرغم من عدم الإعلان عن تحقيق رسمي جديد بعد. وقال المنظمون في بلدان أخرى، بما في ذلك المملكة المتحدة والهند وماليزيا، إنهم يحققون في منصة التواصل الاجتماعي.
