أصدرت OpenAI مسودة وثائق يوم الأربعاء توضح كيف تريد أن يتصرف ChatGPT وتقنيات الذكاء الاصطناعي الأخرى الخاصة به. يكشف جزء من وثيقة Model Spec المطولة أن الشركة تستكشف قفزة نحو المواد الإباحية وغيرها من المحتويات الصريحة.
تحظر سياسات استخدام OpenAI حاليًا المواد الجنسية الصريحة أو حتى الموحية جنسيًا، ولكن هناك ملاحظة “تعليقية” على جزء من مواصفات النموذج المتعلقة بهذه القاعدة تقول إن الشركة تدرس كيفية السماح بمثل هذا المحتوى.
تقول المذكرة: “نحن نستكشف ما إذا كان بإمكاننا توفير القدرة بشكل مسؤول على إنشاء محتوى NSFW في سياقات مناسبة للعمر من خلال واجهة برمجة التطبيقات (API) وChatGPT”، وذلك باستخدام مصطلح عام للمحتوى الذي يعتبر غير آمن لسياقات العمل. “نحن نتطلع إلى فهم أفضل لتوقعات المستخدم والمجتمع بشأن السلوك النموذجي في هذا المجال.”
تقول وثيقة Model Spec إن NSFW، أو محتوى العمل غير الآمن، “قد يشمل الإثارة الجنسية، والدماء المتطرفة، والافتراءات، والألفاظ النابية غير المرغوب فيها”. ليس من الواضح ما إذا كانت استكشافات OpenAI حول كيفية إنشاء محتوى NSFW بشكل مسؤول تتصور تخفيف سياسة الاستخدام الخاصة بها بشكل طفيف فقط، على سبيل المثال للسماح بتوليد النصوص المثيرة، أو على نطاق أوسع للسماح بأوصاف أو تصوير العنف.
ردًا على أسئلة WIRED، قالت المتحدثة باسم OpenAI Grace McGuire إن نموذج المواصفات كان محاولة “لجلب المزيد من الشفافية حول عملية التطوير والحصول على شريحة واسعة من وجهات النظر والتعليقات من الجمهور وصانعي السياسات وأصحاب المصلحة الآخرين”. ورفضت مشاركة تفاصيل حول ما يتضمنه استكشاف OpenAI لإنشاء محتوى واضح، أو التعليقات التي تلقتها الشركة بشأن الفكرة.
في وقت سابق من هذا العام، صرحت ميرا موراتي، كبيرة مسؤولي التكنولوجيا في OpenAI، لـ وول ستريت جورنال أنها “غير متأكدة” مما إذا كانت الشركة ستسمح في المستقبل بتصوير العري باستخدام أداة إنشاء الفيديو الخاصة بالشركة Sora.
سرعان ما أصبحت المواد الإباحية التي ينشئها الذكاء الاصطناعي واحدة من أكبر التطبيقات وأكثرها إثارة للقلق من نوع تكنولوجيا الذكاء الاصطناعي التوليدية التي ابتكرها OpenAI. أصبح ما يسمى بالإباحية العميقة التزييف – الصور أو مقاطع الفيديو الفاضحة التي تم إنشاؤها باستخدام أدوات الذكاء الاصطناعي والتي تصور أشخاصًا حقيقيين دون موافقتهم – أداة شائعة للتحرش ضد النساء والفتيات. في مارس/آذار، أفادت مجلة WIRED عما يبدو أنه أول قاصرين أمريكيين يتم القبض عليهم بتهمة توزيع صور عارية تم إنشاؤها بواسطة الذكاء الاصطناعي دون موافقتهم، بعد أن اتهمت شرطة فلوريدا صبيين مراهقين بعمل صور تصور زملائهم طلاب المدارس الإعدادية.
تقول دانييل كيتس سيترون، الأستاذة في كلية الحقوق بجامعة فيرجينيا والتي درست المشكلة: “إن انتهاكات الخصوصية الحميمة، بما في ذلك مقاطع الفيديو الجنسية المزيفة وغيرها من الصور الحميمية المركبة غير التوافقية، منتشرة وضارة للغاية”. “لدينا الآن دعم تجريبي واضح يوضح أن تكاليف إساءة الاستخدام هذه استهدفت الفرص الحاسمة للأفراد، بما في ذلك العمل والتحدث والسلامة البدنية.”
يصف Citron احتضان OpenAI المحتمل لمحتوى الذكاء الاصطناعي الصريح بأنه “مثير للقلق”.
نظرًا لأن سياسات استخدام OpenAI تحظر انتحال الشخصية دون إذن، فإن الصور الصريحة غير التوافقية ستظل محظورة حتى لو سمحت الشركة للمبدعين بإنشاء مواد NSFW. ولكن يبقى أن نرى ما إذا كانت الشركة قادرة بشكل فعال على إدارة عملية الإنشاء الصريح لمنع الجهات الفاعلة السيئة من استخدام الأدوات. أجرت شركة مايكروسوفت تغييرات على إحدى أدوات الذكاء الاصطناعي التوليدية الخاصة بها بعد أن ذكرت 404 Media أنه تم استخدامها لإنشاء صور صريحة لتايلور سويفت تم توزيعها على منصة التواصل الاجتماعي X.
تقارير إضافية من قبل ريس روجرز
