بعد خلق الآلاف من صور “تعرية” النساء والصور الجنسية للقاصرين على ما يبدو، يبدو أن Elon Musk’s X قد حدد من يمكنه إنشاء صور باستخدام Grok. ومع ذلك، على الرغم من التغييرات، لا يزال برنامج الدردشة الآلي يُستخدم لإنشاء صور جنسية “تعرية” على المنصة.
في صباح يوم الجمعة، بدأ حساب Grok على X في الاستجابة لطلبات بعض المستخدمين برسالة تفيد بأن إنشاء الصور وتحريرها “مقصور حاليًا على المشتركين الذين يدفعون”. تتضمن الرسالة أيضًا رابطًا يدفع الأشخاص نحو فئة الاشتراك السنوي لمنصة التواصل الاجتماعي البالغة 395 دولارًا. في أحد اختبارات النظام التي طلبت من Grok إنشاء صورة لشجرة، أعاد النظام نفس الرسالة.
ويأتي التغيير الواضح بعد أيام من الغضب المتزايد والتدقيق ضد Musk’s X وxAI، الشركة التي تقف وراء برنامج Grok chatbot. تواجه الشركات عددًا متزايدًا من التحقيقات من قبل الجهات التنظيمية في جميع أنحاء العالم بشأن إنشاء صور صريحة غير توافقية وصور جنسية مزعومة للأطفال. ولم يستبعد رئيس الوزراء البريطاني كير ستارمر حظر X في البلاد، وقال إن الإجراءات “غير قانونية”.
ولم تؤكد شركة X ولا xAI، الشركة المملوكة لشركة Musk والتي تقف وراء Grok، أنها جعلت إنشاء الصور وتحريرها ميزة مدفوعة الأجر فقط. اعترف متحدث باسم X باستفسار WIRED لكنه لم يقدم تعليقًا قبل النشر. قالت X سابقًا إنها تتخذ “إجراءات ضد المحتوى غير القانوني على X”، بما في ذلك حالات مواد الاعتداء الجنسي على الأطفال. في حين أن Apple وGoogle قد حظرتا سابقًا تطبيقات ذات ميزات “nudify” مماثلة، إلا أن X وGrok يظلان متاحين في متاجر التطبيقات الخاصة بهما. ولم تستجب شركة xAI على الفور لطلب WIRED للتعليق.
لأكثر من أسبوع، كان المستخدمون على X يطلبون من برنامج الدردشة الآلي تعديل صور النساء لإزالة ملابسهن – وغالبًا ما يطلبون أن تحتوي الصورة على بيكيني “خيطي” أو “شفاف”. في حين أن الخلاصة العامة للصور التي أنشأها Grok تحتوي على نتائج أقل بكثير لصور “التعري” هذه يوم الجمعة، إلا أنها لا تزال تنشئ صورًا ذات طابع جنسي عندما يطلب منها ذلك مستخدمون X لديهم حسابات مدفوعة “تم التحقق منها”.
يقول بول بوشود، الباحث الرئيسي في منظمة AI Forensics غير الربحية ومقرها باريس، لمجلة WIRED: “لقد لاحظنا نفس النوع من المحفزات، ولاحظنا نفس النوع من النتائج، ولكن بشكل أقل بقليل من ذي قبل”. ويقولون: “يمكن للنموذج أن يستمر في إنتاج (صور) البيكيني”.
حددت مراجعة WIRED لبعض منشورات Grok صباح يوم الجمعة أن Grok تقوم بإنشاء صور استجابة لطلبات المستخدمين للحصول على صور “تضعها في ملابس داخلية من اللاتكس” و”تضعها في بيكيني بلاستيكي وتغطيها بطبقة بيضاء من الطلاء”. تظهر الصور خلف مربع “تحذير المحتوى” الذي يشير إلى عرض مواد للبالغين.
في يوم الأربعاء، كشفت WIRED أن موقع وتطبيق Grok المستقل، المنفصل عن الإصدار الموجود على X، قد تم استخدامه أيضًا في الأشهر الأخيرة لإنشاء مقاطع فيديو جنسية شديدة الرسوم وفي بعض الأحيان عنيفة، بما في ذلك المشاهير وغيرهم من الأشخاص الحقيقيين. يقول بوشود إنه لا يزال من الممكن استخدام Grok لإنتاج مقاطع الفيديو هذه. ويقولون: “لقد تمكنت من إنشاء مقطع فيديو يتضمن محتوى جنسيًا صريحًا دون أي قيود من حساب لم يتم التحقق منه”.
في حين أن اختبار WIRED لإنشاء الصور باستخدام Grok on X باستخدام حساب مجاني لم يسمح بإنشاء أي صور، فإن استخدام حساب مجاني على تطبيق Grok وموقع الويب لا يزال ينشئ صورًا.
يقول الخبراء إن التغيير على X يمكن أن يحد على الفور من كمية المواد الجنسية الصريحة والضارة التي تنشئها المنصة. ولكن تم انتقادها أيضًا باعتبارها خطوة بسيطة تعمل بمثابة ضمادة للأضرار الحقيقية الناجمة عن الصور الحميمية غير التوافقية.
وقالت إيما بيكرينغ، رئيسة قسم إساءة الاستخدام الميسرة بالتكنولوجيا في منظمة “Refuge” الخيرية المعنية بالعنف المنزلي في المملكة المتحدة، في بيان لها: “إن القرار الأخير بتقييد الوصول إلى المشتركين الذين يدفعون الثمن ليس غير كاف فحسب، بل إنه يمثل تسييل الإساءة”. “في حين أن قصر إنشاء صور الذكاء الاصطناعي على المستخدمين المدفوعين قد يؤدي إلى تقليل الحجم بشكل طفيف وتحسين إمكانية التتبع، إلا أن إساءة الاستخدام لم يتم إيقافها. لقد تم وضعها ببساطة خلف نظام حظر الاشتراك غير المدفوع، مما يسمح لـ X بالاستفادة من الضرر.”
