صورة لمنظمة العفو الدولية تركت شركة المولدات الناشئة أكثر من مليون صورة ومقطع فيديو تم إنشاؤها وأنظمتها مكشوفة ويمكن لأي شخص الوصول إليها عبر الإنترنت، وفقًا لبحث جديد استعرضته WIRED. تضمنت “الأغلبية الساحقة” من الصور عُريًا وكانت “محتوى للبالغين مصورًا”، وفقًا للباحث الذي كشف عن مجموعة البيانات المكشوفة، حيث يبدو أن بعضها يصور أطفالًا أو يتم تبديل وجوه الأطفال على أجساد بالغين عراة تم إنشاؤها بواسطة الذكاء الاصطناعي.
يبدو أن مواقع الويب المتعددة، بما في ذلك MagicEdit وDreamPal، تستخدم جميعها نفس قاعدة البيانات غير الآمنة، كما يقول الباحث الأمني جيريميا فاولر، الذي اكتشف الخلل الأمني في أكتوبر. وفي ذلك الوقت، يقول فاولر، كان يتم إضافة حوالي 10.000 صورة جديدة إلى قاعدة البيانات كل يوم. في إشارة إلى كيفية استخدام الأشخاص لأدوات إنشاء الصور وتحريرها، تضمنت هذه الصور صورًا “غير معدلة” لأشخاص حقيقيين ربما تم “تعريتهم” دون رضاهم، أو تم تبديل وجوههم بأجساد عارية أخرى.
يقول فاولر، وهو صياد غزير الإنتاج لقواعد البيانات المكشوفة، والذي نشر النتائج على مدونة ExpressVPN: “المشكلة الحقيقية هي مجرد استخدام الأبرياء، وخاصة الأشخاص القاصرين، لصورهم دون موافقتهم لإنشاء محتوى جنسي”. يقول فاولر إنها ثالث قاعدة بيانات لتوليد صور الذكاء الاصطناعي تم تكوينها بشكل خاطئ والتي وجدها متاحة عبر الإنترنت هذا العام – ويبدو أن جميعها تحتوي على صور صريحة غير موافقة عليها، بما في ذلك صور الشباب والأطفال.
تأتي نتائج فاولر مع استمرار استخدام أدوات إنشاء الصور بالذكاء الاصطناعي لإنشاء صور واضحة للأشخاص بشكل ضار. يستخدم نظام بيئي هائل من خدمات “التعري”، التي يستخدمها ملايين الأشخاص ويجني ملايين الدولارات سنويًا، الذكاء الاصطناعي “لتجريد” الأشخاص من ملابسهم – معظمهم من النساء – في الصور. يمكن تحرير الصور المسروقة من وسائل التواصل الاجتماعي ببضع نقرات فقط: مما يؤدي إلى إساءة معاملة النساء ومضايقتهن بشكل مروع. وفي الوقت نفسه، تضاعفت التقارير عن المجرمين الذين يستخدمون الذكاء الاصطناعي لإنشاء مواد الاعتداء الجنسي على الأطفال، والتي تغطي مجموعة من الصور غير اللائقة التي تنطوي على أطفال، خلال العام الماضي.
يقول متحدث باسم شركة ناشئة تدعى DreamX، التي تشغل MagicEdit وDreamPal: “نحن نأخذ هذه المخاوف على محمل الجد”. يقول المتحدث إن شركة تسويق مؤثرة مرتبطة بقاعدة البيانات، تسمى SocialBook، تدار “من قبل كيان قانوني منفصل ولا تشارك” في تشغيل المواقع الأخرى. يقول المتحدث: “تشترك هذه الكيانات في بعض العلاقات التاريخية من خلال المؤسسين والأصول القديمة، لكنها تعمل بشكل مستقل مع خطوط إنتاج منفصلة”.
قال متحدث باسم SocialBook لـ WIRED: “إن SocialBook غير متصل بقاعدة البيانات التي أشرت إليها، ولا يستخدم هذا التخزين، ولم يشارك في تشغيله أو إدارته في أي وقت”. “لم يتم إنشاء الصور المشار إليها أو معالجتها أو تخزينها بواسطة أنظمة SocialBook. يعمل SocialBook بشكل مستقل وليس له أي دور في البنية التحتية الموصوفة.”
