BOSTON – أعلنت Openai عن سلسلة من عناصر التحكم الوالدية في AI chatbot chatgpt ، والتي تتضمن إخطار الوالدين عندما يشعر طفلهم بالأسى.
ويأتي ذلك بعد رفع دعوى قضائية ضد الشركة والرئيس التنفيذي لها سام التمان من قبل والدا آدم راين البالغ من العمر 16 عامًا ، الذي انتحر في أبريل.
زعم الوالدان أن تشاتغبت خلق تبعية نفسية في آدم ، وتدريبه على التخطيط وتولي حياته في وقت سابق من هذا العام وحتى كتب مذكرة انتحارية له.
يقول Openai إن عناصر تحكم الوالدين الجديدة التي ستسمح للبالغين بإدارة الميزات التي يمكن لأطفالهم استخدامها في الخدمة توفيرها خلال الشهر المقبل.
ستتيح أدوات التحكم في Openai للآباء ربط حسابهم بأطفالهم والسماح لهم بإدارة الميزات التي يمكن لطفلهم الوصول إليها. يتضمن هذا أيضًا سجل الدردشة والذاكرة ، وحقائق المستخدم التي يحتفظ بها الذكاء الاصطناعى تلقائيًا.
وقالت مدونة Openai أيضًا إن ChatGPT سترسل إشعارات أولياء الأمور إذا اكتشف “أن سن المراهقة هو في لحظة من الضيق الحاد”.
ومع ذلك ، فإن الشركة لم تحدد ما قد يؤدي إلى مثل هذا التنبيه ، لكنها قالت إن الميزة سوف يسترشد بها الخبراء.
لكن البعض يقول أن التدابير لا تذهب بعيدا بما فيه الكفاية.
وصف جاي إيدلسون ، محامي والدي رين ، إعلان Openai بأنه “وعود غامضة بالقيام بعمل أفضل” و “لا شيء أكثر من فريق إدارة الأزمات في Openai الذي يحاول تغيير الموضوع”.
قال إيدلسون يوم الثلاثاء: “يجب أن يقول أدوسمان يوم الثلاثاء” يجب أن يقول أدومان بشكل لا لبس فيه أنه يعتقد أن شاتغبت آمن أو يسحبه على الفور من السوق “.
وقالت Meta ، الشركة الأم لـ Instagram و Facebook و WhatsApp ، يوم الثلاثاء إنها تمنع الآن الدردشة من التحدث مع المراهقين حول إيذاء الذات والانتحار والأكل المضطربة والمحادثات الرومانسية غير المناسبة ، وبدلاً من ذلك يوجههم إلى موارد الخبراء. يقدم Meta بالفعل عناصر تحكم الوالدين على حسابات المراهقين.
وجدت دراسة نشرت الأسبوع الماضي في المجلة الطبية للخدمات النفسية في التناقضات في كيفية استجابة ثلاثة chatbots الذكاء الاصطناعي الشهير للاستفسارات حول الانتحار.
وجدت الدراسة التي أجراها الباحثون في مؤسسة RAND حاجة إلى “تحسين مزيد من التحسين” في ChatGPT و Google's Gemini و Anthropic's Claude. لم يدرس الباحثون chatbots Meta.
قال المؤلف الرئيسي للدراسة ، ريان ماكبين ، يوم الثلاثاء إنه “من المشجع أن نرى Openai و Meta يقدم ميزات مثل عناصر التحكم الوالدية وتوجيه المحادثات الحساسة إلى نماذج أكثر قدرة ، ولكن هذه خطوات تدريجية”.
وقال ماكباين ، الباحث الأول في السياسة في راند وأستاذ مساعد في كلية الطب بجامعة هارفارد: “من دون معايير السلامة المستقلة ، والاختبارات السريرية ، والمعايير القابلة للتنفيذ ، ما زلنا نعتمد على الشركات للتنظيم الذاتي في مساحة يكون فيها مخاطر المراهقين مرتفعة بشكل فريد”. – يورونو
