لم يمنع إيلون موسك Grok، برنامج الدردشة الآلي الذي طورته شركة الذكاء الاصطناعي التابعة له xAI، من إنتاج صور جنسية للنساء. بعد ظهور تقارير الأسبوع الماضي تفيد بأن أداة توليد الصور على X تم استخدامها لإنشاء صور جنسية للأطفال، أنشأ Grok آلاف الصور غير المرغوب فيها لنساء في صور “عارية” و”بيكيني”.
كل بضع ثوانٍ، يواصل Grok إنشاء صور لنساء يرتدين البكيني أو الملابس الداخلية استجابة لمطالبات المستخدم على X، وفقًا لمراجعة WIRED للإخراج المباشر المنشور علنًا لروبوتات الدردشة. وأظهر تحليل المنشورات، يوم الثلاثاء، ما لا يقل عن 90 صورة لنساء يرتدين ملابس السباحة وفي مستويات مختلفة من خلع ملابسهن، نشرها موقع Grok في أقل من خمس دقائق.
لا تحتوي الصور على عُري ولكنها تتضمن قيام برنامج الدردشة الآلي المملوك لـ Musk “بتجريد” الملابس من الصور التي تم نشرها على X بواسطة مستخدمين آخرين. في كثير من الأحيان، في محاولة للتهرب من حواجز السلامة الخاصة بشركة Grok، يطلب المستخدمون، وليس بالضرورة بنجاح، تعديل الصور لجعل النساء يرتدين “البكيني الخيطي” أو “البكيني الشفاف”.
في حين تم استخدام تكنولوجيا توليد الصور الضارة بالذكاء الاصطناعي لمضايقة النساء وإساءة معاملتهن رقميًا لسنوات – غالبًا ما تسمى هذه المخرجات “التزييف العميق” وتم إنشاؤها بواسطة برنامج “nudify” – فإن الاستخدام المستمر لبرنامج Grok لإنشاء أعداد كبيرة من الصور غير التوافقية يمثل على ما يبدو أكثر حالات إساءة الاستخدام شيوعًا وانتشارًا حتى الآن. على عكس برامج التعري أو “خلع الملابس” الضارة المحددة، لا يتقاضى برنامج Grok أموالًا من المستخدم لإنشاء صور، وينتج نتائج في ثوانٍ، وهو متاح لملايين الأشخاص على X – وكل ذلك قد يساعد في تطبيع إنشاء صور حميمة غير توافقية.
يقول سلون طومسون، مدير التدريب والتعليم في EndTAB، وهي منظمة تعمل على معالجة إساءة استخدام التكنولوجيا: “عندما تقدم شركة ما أدوات ذكاء اصطناعي إبداعية على منصتها، تقع على عاتقها مسؤولية تقليل مخاطر إساءة الاستخدام المستندة إلى الصور”. “الأمر المثير للقلق هنا هو أن شركة X فعلت العكس. فقد قامت بدمج إساءة استخدام الصور المدعومة بالذكاء الاصطناعي مباشرة في منصة رئيسية، مما يجعل العنف الجنسي أسهل وأكثر قابلية للتطوير”.
بدأ إنشاء Grok للصور ذات الطابع الجنسي في الانتشار على X في نهاية العام الماضي، على الرغم من أن قدرة النظام على إنشاء مثل هذه الصور كانت معروفة منذ أشهر. في الأيام الأخيرة، تم استهداف صور الشخصيات المؤثرة والمشاهير والسياسيين على وسائل التواصل الاجتماعي من قبل مستخدمي X، الذين يمكنهم الرد على منشور من حساب آخر ومطالبة Grok بتغيير الصورة التي تمت مشاركتها.
النساء اللواتي نشرن صورًا لأنفسهن كان لديهن حسابات ترد عليهن ويطلبن بنجاح من Grok تحويل الصورة إلى صورة “بيكيني”. في إحدى الحالات، طلب العديد من مستخدمي X من Grok تغيير صورة نائبة رئيس وزراء السويد لإظهارها وهي ترتدي البيكيني. وتقول التقارير إن اثنين من وزراء الحكومة في المملكة المتحدة “تم تجريدهما” من ملابسهما البيكينية.
تُظهر الصور الموجودة على X صورًا لنساء بملابس كاملة، مثل شخص في المصعد وآخر في صالة الألعاب الرياضية، ويتم تحويلها إلى صور بملابس صغيرة. تقول الرسالة النموذجية: “@grok وضعها في بيكيني شفاف”. وفي سلسلة مختلفة من المنشورات، طلب أحد المستخدمين من Grok “تضخيم صدرها بنسبة 90%”، ثم “تضخيم فخذيها بنسبة 50%”، وأخيراً “تغيير ملابسها إلى بيكيني صغير”.
يقول أحد المحللين الذي تابع عمليات التزييف العميق الصريحة لسنوات، وطلب عدم ذكر اسمه لأسباب تتعلق بالخصوصية، إن Grok أصبحت على الأرجح واحدة من أكبر المنصات التي تستضيف صور التزييف العميق الضارة. يقول الباحث: “إنه الاتجاه السائد تمامًا”. “إنها ليست مجموعة غامضة (تصنع الصور)، إنها حرفيًا الجميع، من جميع الخلفيات. الأشخاص ينشرون على قنواتهم الرئيسية. لا داعي للقلق.”
