تم رفض اثنين من المطالبات التي تم استخدامها لإنشاء مواد على Grok بواسطة ChatGPT وMeta AI وAnthropic’s Claude من OpenAI باعتبارها غير مناسبة عند اختبارها بواسطة WIRED. قامت شركة Gemini التابعة لشركة Google بإنشاء صورة لأحد المشاهير ممسوكًا في يد عملاق، على الرغم من أنها رفضت مطالبة أخرى. ورفضت جوجل التعليق.
يبدو أن مقطع فيديو Grok Imagine، والذي تم نشره أيضًا على X، يصور آشلي سانت كلير وقد تم تغييره ليرقص بالبيكيني. كانت سانت كلير في السابق على علاقة مع ” ماسك ” وهي أم لأحد أبنائه. في يناير، بدأت إجراءات قانونية ضد xAI بعد ظهور صور مزيفة ذات طابع جنسي لها على X. وبعد أن اتصلت WIRED بـ X، تمت إزالة المنشور من منصة التواصل الاجتماعي لانتهاك قواعدها.
ولم يستجب الممثلون القانونيون لسانت كلير في قضية X على الفور لطلب التعليق.
يقول عمران أحمد، الرئيس التنفيذي ومؤسس مركز مكافحة الكراهية الرقمية: “لقد أضاف إيلون ماسك عن عمد ميزة ضارة إلى منصته تساعد المستخدمين على خلع ملابس النساء والأطفال بنقرة زر واحدة، دون أي اعتبار للضرر المتوقع الذي قد يسببه ذلك”. “يبدو الآن أن المحتوى الصريح لا يزال يتم استضافته على Grok ومشاركته على X، بما في ذلك الصور التي تسخر من والدة طفل Musk.”
على عكس أنظمة الذكاء الاصطناعي التوليدية الأخرى من OpenAI وجوجل، لم يتراجع Musk’s Grok وxAI عن السماح بالمحتوى الجنسي بشكل عام، حيث قدموا سابقًا أوضاع “Spicy” و”Unhinged” وتضمنوا في البداية عددًا أقل من حواجز الحماية الآمنة. صرح Musk أن Grok “من المفترض (أن) يسمح بعري الجزء العلوي من الجسم لبشر بالغين وهميين” وأن يكون متسقًا مع ما قد يراه المشاهدون في الأفلام ذات التصنيف R. تشير أحدث شروط الخدمة من xAI إلى أن النظام قد يستجيب بـ “المواقف الجنسية”. ومع ذلك، تقول وثائق الشركة إنها لا تسمح للأشخاص باستخدام أنظمتها “لإحداث ضرر أو الانخراط في نشاط مسيء”.
تُظهر مقاطع فيديو Grok Imagine الأخرى التي شاهدتها WIRED نساءً، من المحتمل أن يتم إنتاجهن بالكامل بواسطة الذكاء الاصطناعي أو خلع ملابسهن أو المشاركة في أفعال جنسية – وبعضها صريح تمامًا. لا تصف مطالبات المستخدم بالعديد من مقاطع الفيديو بالضرورة الأفعال الجنسية بشكل مباشر، ولكنها تصفها بطرق ملتوية – وهي محاولة محتملة للتحايل على الضمانات التي يتم نشرها على منصة Grok.
أخبر العديد من الباحثين مجلة WIRED أنه منذ يناير يبدو أن التغييرات التي أدخلها X وGrok جعلت من الصعب إنشاء صور “التعري” أو “خلع الملابس” لأشخاص حقيقيين. يبدو أن عدد هذه الصور التي يتم نشرها على X قد انخفض في الأشهر الأخيرة. على موقع Reddit وأحد منتديات التزييف العميق المخصصة للذكاء الاصطناعي، اشتكى المستخدمون من زيادة الإشراف من جانب الشركات المملوكة لشركة SpaceX.
ومع ذلك، حذرت شركة SpaceX في شهر مايو المستثمرين المحتملين من أنها خصصت 530 مليون دولار للتعامل مع الشكاوى القانونية المستمرة، بما في ذلك تلك المرتبطة بـ Grok. “نظرًا لأن هذه الأساليب قد تكون أكثر فظاظة وقسوة من عروضنا القياسية، فإنها تمثل مخاطر متزايدة، بما في ذلك الإضرار بالسمعة، وتوليد محتوى صريح محتمل ومعلومات مضللة أو مخرجات خادعة، أو صور محتملة غير توافقية أو استغلالية، أو انتهاك للملكية الفكرية، أو محتوى يمكن اعتباره استغلاليًا أو ضارًا أو مضايقًا أو مسيئًا أو تمييزيًا،” كما جاء في ملفها في مايو.
