يقول أجدر: “عندما ننظر إلى إساءة استخدام الصور الحميمية، فإن الغالبية العظمى من الأدوات والاستخدامات المسلحة تأتي من مساحة مفتوحة المصدر”. لكنه يقول إنهم غالبًا ما يبدأون بمطورين ذوي نوايا حسنة. “يقوم شخص ما بإنشاء شيء يعتقد أنه مثير للاهتمام أو رائع، ويدرك الشخص ذو النوايا السيئة إمكاناته الخبيثة ويستخدمها كسلاح.”
بعضها، مثل المستودع الذي تم تعطيله في أغسطس، لديه مجتمعات مبنية خصيصًا لهذا الغرض من أجل استخدامات صريحة. ويزعم أجدر أن هذا النموذج وضع نفسه كأداة للإباحية العميقة، ليصبح “قمعًا” للإساءة، التي تستهدف النساء في الغالب.
مقاطع الفيديو الأخرى التي تم تحميلها على موقع البث الإباحية من خلال حساب يعتمد على نماذج الذكاء الاصطناعي التي تم تنزيلها من GitHub، أظهرت وجوه أهداف التزييف العميق الشهيرة، المشاهير إيما واتسون، وتايلور سويفت، وآنيا تايلور جوي، بالإضافة إلى نساء أخريات أقل شهرة ولكنهن حقيقيات إلى حد كبير. ، فرضه في المواقف الجنسية.
وصف المبدعون الأدوات التي استخدموها بحرية، بما في ذلك اثنتين تم مسحهما بواسطة GitHub ولكن كودهما لا يزال موجودًا في مستودعات أخرى موجودة.
يتجمع مرتكبو عمليات التزييف العميق في العديد من الأماكن عبر الإنترنت، بما في ذلك المنتديات المجتمعية السرية على Discord وعلى مرأى من الجميع على Reddit، مما يضاعف من محاولات منع التزييف العميق. عرض أحد مستخدمي Redditor خدماته باستخدام برنامج المستودع المؤرشف في 29 سبتمبر. وسأل آخر: “هل يمكن لأحد أن يفعل ذلك لابن عمي”.
تتوفر أيضًا السيول من المستودع الرئيسي الذي حظره GitHub في أغسطس في زوايا أخرى من الويب، مما يوضح مدى صعوبة مراقبة برامج التزييف العميق مفتوحة المصدر في جميع المجالات. وبالمثل، تمت إزالة أدوات إباحية عميقة أخرى، مثل تطبيق DeepNude، قبل ظهور إصدارات جديدة.
تقول إليزابيث سيجر، مديرة السياسة الرقمية في مركز ديموس للأبحاث متعدد الأحزاب في المملكة المتحدة: “هناك الكثير من النماذج، والعديد من التشعبات المختلفة في النماذج، والعديد من الإصدارات المختلفة، وقد يكون من الصعب تعقبها جميعًا”. وتضيف: “بمجرد أن يصبح النموذج مفتوح المصدر متاحًا للجمهور للتنزيل، فلا توجد طريقة للتراجع العام عن ذلك”.
أحد منشئي المحتوى الإباحي المزيف العميق والذي لديه 13 مقطع فيديو صريحًا تم التلاعب به لمشاهير من الإناث، نسب الفضل إلى أحد مستودعات GitHub البارزة التي تم تسويقها كنسخة “NSFW” لمشروع آخر يشجع الاستخدام المسؤول ويطلب من المستخدمين صراحة عدم استخدامه للعري. يقول ملفهم الشخصي على موقع الأنبوب بوقاحة: “تعلم كل ما هو متاح من Face Swap AI من GitHUB، دون استخدام الخدمات عبر الإنترنت”.
قام GitHub بالفعل بتعطيل إصدار NSFW هذا عندما حددت WIRED مقاطع الفيديو المزيفة بعمق. لكن المستودعات الأخرى التي تم تصنيفها على أنها إصدارات “غير مقفلة” من النموذج كانت متاحة على المنصة في 10 يناير، بما في ذلك واحدة تحتوي على 2500 “نجمة”.
“صحيح من الناحية الفنية أنه بمجرد ظهور (النموذج) لا يمكن عكسه. يقول سيغر: “لكن لا يزال بإمكاننا أن نجعل من الصعب على الناس الوصول إلى هذه الخدمات”.
وتضيف أنه إذا تركت دون رادع، فإن احتمال الضرر الناجم عن “الإباحية” العميقة ليس نفسيًا فقط. وتشمل آثارها غير المباشرة تخويف النساء والأقليات والسياسيين والتلاعب بهم، كما رأينا في التزييف السياسي العميق الذي يؤثر على السياسيات على مستوى العالم.
لكن لم يفت الأوان بعد للسيطرة على المشكلة، ولدى منصات مثل GitHub خيارات، كما يقول سيجر، بما في ذلك التدخل عند نقطة التحميل. “إذا وضعت نموذجًا على GitHub ورفضت GitHub، وقالت جميع منصات الاستضافة لا، يصبح من الصعب على الشخص العادي الحصول على هذا النموذج.”
إن كبح جماح المواد الإباحية العميقة المصنوعة باستخدام نماذج مفتوحة المصدر يعتمد أيضًا على صانعي السياسات وشركات التكنولوجيا والمطورين، وبالطبع منشئي المحتوى المسيء أنفسهم.
لدى ما لا يقل عن 30 ولاية أمريكية أيضًا بعض التشريعات التي تتناول الإباحية العميقة، بما في ذلك الحظر، وفقًا لمنظمة Public Citizen's غير الربحية، على الرغم من تباين التعريفات والسياسات، وبعض القوانين تغطي القاصرين فقط. وسيشعر منشئو التزييف العميق في المملكة المتحدة أيضًا قريبًا بقوة القانون بعد أن أعلنت الحكومة تجريم إنشاء مقاطع التزييف العميق الجنسية الصريحة، بالإضافة إلى مشاركتها، في 7 يناير.
