إيلون ماسك X أدخلت قيودًا جديدة تمنع الأشخاص من تحرير وإنشاء صور لأشخاص حقيقيين يرتدون البكيني أو “الملابس الكاشفة” الأخرى. يأتي التغيير في السياسة ليلة الأربعاء في أعقاب الغضب العالمي من استخدام Grok لإنشاء آلاف من صور “التعري” الضارة غير الرضائية للنساء والصور الجنسية لقاصرين على X.
ومع ذلك، في حين أنه يبدو أنه قد تم أخيرًا إدخال بعض تدابير السلامة لإنشاء صور Grok على X، يبدو أن تطبيق وموقع Grok المستقل لا يزالان قادرين على إنشاء صور بأسلوب “خلع الملابس” ومحتوى إباحي، وفقًا لاختبارات متعددة أجراها باحثون و WIRED وصحفيون آخرون. وفي الوقت نفسه، يقول مستخدمون آخرون إنهم لم يعودوا قادرين على إنشاء الصور ومقاطع الفيديو كما كانوا من قبل.
يقول بول بوشود، الباحث الرئيسي في منظمة AI Forensics غير الربحية ومقرها باريس، والذي كان يتتبع استخدام Grok لإنشاء صور جنسية وأجرى اختبارات متعددة على Grok خارج X: “لا يزال بإمكاننا توليد عُري واقعي على موقع Grok.com. يمكننا توليد العري بطرق لا يستطيع Grok على X القيام بها”.
يقول الباحث الذي اختبر النظام على شخص يظهر كامرأة: “يمكنني تحميل صورة على موقع Grok Imagine وأطلب وضع الشخص بالبكيني وسينجح الأمر”. نجحت الاختبارات التي أجرتها WIRED، باستخدام حسابات Grok المجانية على موقعها الإلكتروني في كل من المملكة المتحدة والولايات المتحدة، في إزالة الملابس من صورتين لرجال دون أي قيود واضحة. في تطبيق Grok في المملكة المتحدة، عندما طُلب منه خلع ملابس رجل، طلب التطبيق من مراسل WIRED إدخال سنة ميلاد المستخدمين قبل إنشاء الصورة.
وفي الوقت نفسه، وجد صحفيون آخرون في The Verge والمنفذ الاستقصائي Bellingcat أيضًا أنه من الممكن إنشاء صور جنسية أثناء وجودهم في المملكة المتحدة، التي تحقق في Grok وX وأدانت بشدة المنصات للسماح للمستخدمين بإنشاء صور “خلع ملابسهم”.
منذ بداية العام، تعرضت شركات ماسك – بما في ذلك شركة الذكاء الاصطناعي xAI وX وGrok – لانتقادات شديدة بسبب إنشاء صور حميمة غير توافقية، ومقاطع فيديو جنسية صريحة ومصورة، وصور جنسية لقاصرين على ما يبدو. وقد أدان المسؤولون في الولايات المتحدة، وأستراليا، والبرازيل، وكندا، والمفوضية الأوروبية، وفرنسا، والهند، وإندونيسيا، وأيرلندا، وماليزيا، والمملكة المتحدة، جميعهم أو أطلقوا تحقيقات في X أو Grok.
في يوم الأربعاء، نشر حساب الأمان على X تحديثات حول كيفية استخدام Grok على موقع التواصل الاجتماعي. ونشر الحساب: “لقد قمنا بتنفيذ إجراءات تكنولوجية لمنع حساب Grok من السماح بتحرير صور لأشخاص حقيقيين في ملابس كاشفة مثل البيكينيات”، مضيفًا أن القواعد تنطبق على جميع المستخدمين، بما في ذلك المشتركون المجانيون والمدفوعون.
في قسم بعنوان “تحديث Geoblock”، ادعى حساب X أيضًا: “نحن الآن نحجب جغرافيًا قدرة جميع المستخدمين على إنشاء صور لأشخاص حقيقيين يرتدون البيكينيات والملابس الداخلية والملابس المماثلة عبر حساب Grok وفي Grok in X في تلك الولايات القضائية حيث يكون ذلك غير قانوني.” أضاف تحديث الشركة أيضًا أنها تعمل على إضافة ضمانات إضافية وأنها تواصل “إزالة المحتوى المنتهك ذي الأولوية العالية، بما في ذلك مواد الاعتداء الجنسي على الأطفال (CSAM) والعري غير التوافقي”.
ولم يرد المتحدثون باسم شركة xAI، التي أنشأت شركة Grok، على الفور على طلب WIRED للتعليق. وفي الوقت نفسه، يقول متحدث باسم X إنهم يفهمون حظر تحديد الموقع الجغرافي ليتم تطبيقه على كل من التطبيق والموقع الإلكتروني.
تأتي الخطوة الأخيرة في أعقاب تحول تم انتقاده على نطاق واسع في 9 يناير حيث قام X بتقييد إنشاء الصور باستخدام Grok للمشتركين “الذين تم التحقق منهم” المدفوعين. الفعل الذي وصفته مجموعة نسائية رائدة بأنه “تحقيق الدخل من الإساءة”. يؤكد بوشود، الذي يقول إن AI Forensics جمعت حوالي 90 ألف صورة إجمالية لـ Grok منذ عطلة عيد الميلاد، أن الحسابات التي تم التحقق منها فقط هي التي تمكنت من إنشاء صور على X – على عكس موقع أو تطبيق Grok – منذ 9 يناير، ونادرًا ما يتم إنشاء صور بيكيني للنساء الآن. ويقولون: “لقد لاحظنا أنهم قاموا على ما يبدو بسحب القابس منه وتعطيل الوظيفة على X”.
