جولي كاربنتر لا تفعل ذلك إلقاء اللوم على المستخدمين البشر على الإطلاق في تجسيم روبوتات الدردشة. خبير التفاعل بين الإنسان والذكاء الاصطناعي منذ فترة طويلة ومؤلف كتاب الروبوت العاري يرى أن أدوات الذكاء الاصطناعي التوليدية، مثل ChatGPT، مصممة عمدًا لإثارة ردود الفعل هذه من المستخدمين من خلال ذكريات وتفاعلات مخصصة للغاية تحاكي التجارب الاجتماعية.
قد تصبح هذه الروابط الأحادية الجانب أكثر تعقيدًا، وربما كارثية، عندما تتم إضافة الشبقية التي يولدها الذكاء الاصطناعي كخيار. يشعر كاربنتر بالقلق بشأن خطط OpenAI القادمة للسماح للبالغين بإرسال رسائل نصية مع ChatGPT. تقول: “أنا أؤيد استكشاف الأشخاص لحياتهم الجنسية، ولكني أريد ذلك بطريقة آمنة لهم بالإضافة إلى المتعة”. “يجب أن يكون الناس على دراية تامة بوجود جانب مراقبة للبيانات.”
ألمح OpenAI لأول مرة إلى السماح للمستخدمين البالغين بإنشاء رسائل جنسية باستخدام ChatGPT قبل عامين في وثيقة رسمية تصف كيفية تصميم نماذجه للعمل. وبينما يبدو أن الشركة لا تزال تخطط لإصدارها النهائي، إلا أن الجدول الزمني غامض. في الأشهر الأخيرة، أعرب المجلس الاستشاري لـ OpenAI للخبراء الخارجيين عن مخاوفه بشأن مخاطر هذا الإصدار الوشيك، بما في ذلك احتمال وجود “مدرب انتحار مثير”، وفقًا لتقرير صادر عن شركة OpenAI. صحيفة وول ستريت جورنال. رفضت OpenAI التعليق عندما اتصلت بها WIRED.
إن التحدث بطريقة قذرة مع الآلات، مثل ChatGPT، ليس بالأمر الجديد. تقول كيت ديفلين، أستاذة الذكاء الاصطناعي والمجتمع في جامعة كينغز كوليدج في لندن، التي تتضمن أبحاثها الجنس الرقمي: “إنهم يريدون تحقيق الدخل من شيء يرون أن الناس سيحاولون القيام به على أي حال”.
الأمر المختلف هنا هو احتضان OpenAI المحتمل للمحتوى البذيء على منصة رئيسية. تعد روبوتات الدردشة المثيرة عملاً يدر الإيرادات، لكنها غالبًا ما يتم نقلها إلى مواقع متخصصة ذات أسماء غير ملحوظة أو موقع Grok الخاص بإيلون موسك، المعروف بصور التزييف العميق غير التوافقية والدخول في وضع “MechaHitler”.
عندما يتم إصدار وضع البالغين، سيكون من المثير للاهتمام معرفة ما سيتذكره ChatGPT بالضبط حول الميول الجنسية للمستخدمين. على مدار العامين الماضيين، واصلت OpenAI تحسين ميزة ذاكرة برنامج الدردشة الآلي، والتي تسجل تفضيلات المستخدم وتستجيب بمخرجات مخصصة. هل أنت نباتي؟ لن يوصي ChatGPT بمطعم لحوم عند سؤاله عن أفكار المطاعم. هل تريد الذهاب في نزهة على الأقدام؟ إنه يعرف أنك في سان فرانسيسكو من الدردشات السابقة، وسوف يقترح مسارات قريبة بشكل معقول، حتى لو لم يتم تضمين سياق الموقع هذا في المطالبة.
ولكن، ماذا يحدث عندما يلتقي هذا النوع من تسجيل البيانات والتخصيص المفرط مع عادات إرسال الرسائل الجنسية المثيرة لملايين مستخدمي ChatGPT البالغين؟ ستؤدي التفاعلات المثيرة مع ChatGPT إلى زيادة المخاطر على خصوصية المستخدم.
بدلاً من تذكر تفضيلاتك الغذائية أو نوع الأفلام التي تستمتع بها أكثر، يمكن لـ ChatGPT أن يتذكر مقدار تخيلاتك بشأن الإباحية ذات الفراء، والمجموعات ثلاثية على الشاطئ، ولعب البول، بالإضافة إلى تصميم استجاباته اليومية مع وضع هذه التفاصيل الجنسية في الاعتبار. لا يزال من غير الواضح كيف تخطط OpenAI للتعامل مع هذه المحادثات الناضجة.
قد يجد الأشخاص الذين يختارون التفاعل مع الإصدار المبتذل من ChatGPT عند الإطلاق العزاء في ميزة “الدردشات المؤقتة”. عند التمكين، لا تظهر هذه المحادثات في سجل سجل المستخدم ولا يتم استخدامها لتحسين نماذج OpenAI.
لكن هذه الدردشات ليست سريعة الزوال كما قد يشعر بها المستخدمون. “لأغراض السلامة، قد نحتفظ بنسخة لمدة تصل إلى 30 يومًا”، حسبما جاء في موقع OpenAI الإلكتروني. يوجد أيضًا إخلاء مسؤولية مدرج في صفحة الموقع يدعي أن “الاحتفاظ بالبيانات لخدمات معينة قد يتأثر بالتطورات القانونية الأخيرة”.
