أبل وجوجل تم إصدار أوامر لهم بإزالة التطبيقات التي يمكنها “تعري” الأشخاص أو “خلع ملابسهم”، وإخبارهم بأنه يجب عليهم التوقف عن الاستفادة من التكنولوجيا الضارة، وذلك وفقًا لرسائل التوقف والكف المرسلة إلى الشركات التي اطلعت عليها WIRED.
أرسل ديفيد تشيو، محامي مدينة سان فرانسيسكو، يوم الخميس، إشعارات قانونية إلى شركتي أبل وجوجل يطالبهما بإزالة 13 تطبيقًا لتبادل الوجه من متاجر التطبيقات الخاصة بهما، والتي تسمح للمستخدمين بإنشاء صور عارية تم إنشاؤها بواسطة الذكاء الاصطناعي دون رضاهم. تقول الرسائل إن على عمالقة وادي السيليكون التوقف عن “المساعدة والتحريض” على بيع الصور المزيفة الصريحة و”قطع” العلاقات التجارية مع مطوري التطبيقات.
يقول تشيو لـ WIRED: “إن إنتاج صور حميمة بدون موافقة هو أمر غير قانوني وضار وغير مقبول على الإطلاق”. يقول محامي المدينة، الذي اتخذ مكتبه سابقًا إجراءً قانونيًا ضد 16 موقعًا شهيرًا للتزييف العميق، إن شركتي Apple وGoogle من المحتمل أن “جنيا ملايين الدولارات كرسوم” من التطبيقات التي تعرض التعري، ويجب عليهما تحسين عمليات الإشراف لمنع ظهورها في متاجرهما في المقام الأول.
يقول تشيو: “تتحمل هذه الشركات مسؤولية التأكد من أن التطبيقات الموجودة على منصاتها لا تسهل الاعتداء الجنسي”. تقول الرسائل القانونية للمدينة إن قوانين كاليفورنيا تحظر دعم الخدمات التي تنشئ مواد إباحية مزيفة للغاية. وتقول الرسائل إن التطبيقات تستخدم عمليات الدفع داخل التطبيق، والتي تحصل شركات التكنولوجيا على حصة منها. “حقيقة أن بعض أكبر شركات التكنولوجيا وأكثرها رسوخًا في العالم تقوم بتسهيل هذا الأمر يجب أن تتوقف”.
لقد عثر الباحثون مرارًا وتكرارًا على تطبيقات في متجر تطبيقات Apple ومتجر Google Play، والتي تسمح للأشخاص بإنشاء صور جنسية باستخدام الذكاء الاصطناعي، وأبلغوا عنها، بما في ذلك بعض التطبيقات التي تم تصنيفها على أنها مناسبة للاستخدام من قبل الأطفال. في حين تهدف القوانين والحظر الجديد إلى معالجة آفة التزييف العميق الصريح عبر الإنترنت، فإن شركات التكنولوجيا ووسائل التواصل الاجتماعي توجه ملايين الأشخاص باستمرار نحو التكنولوجيا الضارة.
لدى كل من Apple وGoogle سياسات مطورين تحظر المواد الإباحية والإساءة والتحرش على منصاتهما. لقد قاموا سابقًا بإزالة العشرات من تطبيقات العري والتزييف العميق، بعد تقارير من الباحثين والصحفيين.
أخبر المتحدث باسم جوجل، دان جاكسون، WIRED أن الشركة حذفت “مئات” التطبيقات ذات الميزات العارية بسبب انتهاكات السياسة، بما في ذلك تطبيقات Android الخمسة التي أبلغ عنها مكتب تشيو، من بين خطوات أخرى لتقييد الوصول إليها.
وقال جاكسون في بيان: “لا يسمح Google Play بالتطبيقات التي تحتوي على محتوى جنسي، ونحن نتخذ باستمرار خطوات استباقية لاكتشاف وإزالة التطبيقات ذات المحتوى الضار”. “عندما يتم إبلاغنا بالانتهاكات، فإننا نحقق ونتخذ إجراءات سريعة، والتي تضمنت في حالة هذه التطبيقات تعليق مئات التطبيقات المخالفة وتقييد مصطلحات البحث ذات الصلة مثل “nudify” في متجرنا.”
أخبرت شركة Apple WIRED أن المطورين مسؤولون في النهاية عن محتوى تطبيقاتهم، وأولئك الذين يفشلون في اتباع القواعد ستتم إزالة تطبيقاتهم. وتقول الشركة أيضًا إنه يمكن للمستخدمين الإبلاغ عن التطبيقات التي قد تسبب مشكلات بأنفسهم. صرح آدم ديما، المتحدث باسم شركة Apple، لـ WIRED في بيان له أن الشركة قامت بإزالة ثلاثة من التطبيقات التي أبلغ عنها محامي مدينة سان فرانسيسكو، وهي “بصدد إنهاء حسابات المطورين الخاصة بهم من برنامجنا”. وتقول الشركة إنه يجب على المطورين الأربعة الآخرين “معالجة انتهاكات السياسة أو المخاطرة بإزالتهم أيضًا”.
يقول ديما في البيان: “تم تصميم متجر التطبيقات ليكون مكانًا آمنًا وموثوقًا للمستخدمين، وقد قمنا دائمًا بحظر التطبيقات المصممة لإنشاء المواد الإباحية أو توزيعها أو استهلاكها”. “تتعارض تطبيقات “التعري” مع إرشادات مراجعة التطبيقات لدينا، وقد رفضنا بشكل استباقي العديد من هذه التطبيقات وقمنا بإزالة العديد من التطبيقات الأخرى، بما في ذلك عندما قام المستخدمون بوضع علامة عليها عبر أدوات الإبلاغ لدينا.”
