سلامة OpenAI علمت WIRED أن قائدة الأبحاث التي ساعدت في تشكيل استجابات ChatGPT للمستخدمين الذين يعانون من أزمات الصحة العقلية، أعلنت رحيلها عن الشركة داخليًا الشهر الماضي. من المقرر أن يغادر أندريا فالوني، رئيس فريق أبحاث السلامة المعروف باسم السياسة النموذجية، شركة OpenAI في نهاية العام.
وأكدت المتحدثة باسم OpenAI، كايلا وود، رحيل فالوني. وقال وود إن OpenAI تبحث بنشاط عن بديل، وفي هذه الأثناء، سيقدم فريق فالوني تقاريره مباشرة إلى يوهانس هايديك، رئيس أنظمة السلامة في الشركة.
يأتي رحيل Vallone في الوقت الذي تواجه فيه OpenAI تدقيقًا متزايدًا حول كيفية استجابة منتجها الرئيسي للمستخدمين الذين يواجهون محنة. في الأشهر الأخيرة، تم رفع العديد من الدعاوى القضائية ضد OpenAI بدعوى أن المستخدمين شكلوا مرفقات غير صحية لـ ChatGPT. تزعم بعض الدعاوى القضائية أن ChatGPT ساهم في انهيار الصحة العقلية أو شجع الأفكار الانتحارية.
وسط هذا الضغط، تعمل OpenAI على فهم كيفية تعامل ChatGPT مع المستخدمين المنزعجين وتحسين استجابات chatbot. تعد شركة Model Policy إحدى الفرق التي تقود هذا العمل، حيث تتصدر تقرير شهر أكتوبر الذي يعرض تفاصيل التقدم الذي أحرزته الشركة والمشاورات مع أكثر من 170 خبيرًا في الصحة العقلية.
في التقرير، قالت OpenAI إن مئات الآلاف من مستخدمي ChatGPT قد تظهر عليهم علامات الإصابة بأزمة هوس أو ذهانية كل أسبوع، وأن أكثر من مليون شخص “يجرون محادثات تتضمن مؤشرات واضحة على التخطيط أو النية الانتحارية المحتملة”. ومن خلال تحديث GPT-5، قالت OpenAI في التقرير إنها تمكنت من تقليل الاستجابات غير المرغوب فيها في هذه المحادثات بنسبة 65 إلى 80 بالمائة.
“على مدار العام الماضي، قمت بقيادة بحث OpenAI حول سؤال لم يسبق له مثيل تقريبًا: كيف يجب أن تستجيب النماذج عند مواجهة علامات الاعتماد العاطفي المفرط أو المؤشرات المبكرة لاضطراب الصحة العقلية؟” كتب فالوني في منشور على LinkedIn.
لم يستجب فالوني لطلب WIRED للتعليق.
إن جعل ChatGPT ممتعًا للدردشة معه، ولكن ليس بشكل مبالغ فيه، هو أحد التوترات الأساسية في OpenAI. وتحاول الشركة بقوة توسيع قاعدة مستخدمي ChatGPT، والتي تضم الآن أكثر من 800 مليون شخص أسبوعيًا، للتنافس مع روبوتات الدردشة المدعومة بالذكاء الاصطناعي من Google وAnthropic وMeta.
بعد أن أطلقت شركة OpenAI إصدار GPT-5 في أغسطس، تراجع المستخدمون، بحجة أن النموذج الجديد كان باردًا بشكل مدهش. في آخر تحديث لـ ChatGPT، قالت الشركة إنها قللت بشكل كبير من التملق مع الحفاظ على “دفء” برنامج الدردشة الآلي.
يأتي خروج فالوني بعد إعادة تنظيم مجموعة أخرى في أغسطس والتي ركزت على استجابات ChatGPT للمستخدمين المنكوبين، والسلوك النموذجي. تركت زعيمتها السابقة، جوان جانغ، هذا الدور لتبدأ فريقًا جديدًا يستكشف أساليب جديدة للتفاعل بين الإنسان والذكاء الاصطناعي. تم نقل طاقم السلوك النموذجي المتبقي تحت قيادة ماكس شوارزر بعد التدريب.
