ابتداء من اليوم ، Openai يتم طرح أدوات أمان ChatGPT المخصصة للآباء لاستخدامها مع المراهقين. يتضمن هذا التحديث في جميع أنحاء العالم قدرة أولياء الأمور ، وكذلك إنفاذ القانون ، على تلقي الإخطارات إذا كان الطفل – في هذه الحالة ، المستخدمين الذين تتراوح أعمارهم بين 13 و 18 عامًا – في محادثات chatbot حول الأذى الذاتي أو الانتحار.
تصل هذه التغييرات حيث يتم مقاضاة Openai من قبل الآباء الذين يزعمون أن Chatgpt لعبوا دورًا في وفاة طفلهم. يزعم أن chatbot شجع المراهق الانتحاري على إخفاء حبل المشنقة في غرفته بعيدًا عن الأنظار من أفراد الأسرة ، وفقًا لتقرير من صحيفة نيويورك تايمز.
ككل ، يتم تغيير تجربة المحتوى للمراهقين الذين يستخدمون ChatGPT مع هذا التحديث. “بمجرد توصيل أولياء الأمور والمراهقين حساباتهم ، سيحصل حساب Teen تلقائيًا على حماية إضافية للمحتوى” ، كما يقول منشور مدونة Openai الذي يعلن عن الإطلاق. “بما في ذلك انخفاض المحتوى الرسومي والتحديات الفيروسية والعب الجنسي أو الرومانسي أو العنيف ، ومثل الجمال الشديد ، للمساعدة في الحفاظ على تجربتهم مناسبة للعمر.”
بموجب القيود الجديدة ، إذا دخل مراهق يستخدم حساب chatgpt إلى موجه يتعلق بالإيذاء الذاتي أو التفكير في الانتحار ، يتم إرسال المطالبة إلى فريق من المراجعين البشر الذين يقررون ما إذا كان يجب إثارة إخطار الوالدين المحتمل.
يقول لورين هابر جوناس ، رئيس رفاهية الشباب في Openai: “سوف نتصل بك كوالد في كل طريقة ممكنة”. يمكن للوالدين اختيار تلقي هذه التنبيهات عبر النص والبريد الإلكتروني وإخطار من تطبيق ChatGPT.
من المتوقع أن تصل التحذيرات التي قد يتلقاها الآباء في هذه الحالات خلال ساعات من المحادثة التي يتم وضع علامة على المراجعة. في اللحظات التي يهم فيها كل دقيقة ، من المحتمل أن يكون هذا التأخير محبطًا للآباء والأمهات الذين يريدون المزيد من التنبيهات الفورية حول سلامة طفلهم. يعمل Openai على تقليل وقت التأخر للإشعارات.
إن التنبيه الذي يمكن إرساله إلى الوالدين من قبل Openai سيذكر على نطاق واسع أن الطفل قد يكون قد كتب موجهًا يتعلق بالانتحار أو الضرر الذاتي. قد يشمل أيضًا استراتيجيات محادثة من خبراء الصحة العقلية لاستخدام الوالدين أثناء التحدث مع طفلهم.
في العرض التوضيحي المسبق ، فإن سطر موضوع البريد الإلكتروني الذي يظهر على مخاوف السلامة المسلحة السلكية ، لكنه لم يذكر صراحة الانتحار. ما لن تتضمنه إشعارات الوالدين أيضًا أي عروض أسعار مباشرة من محادثة الطفل – لا بالمطالبات أو المخرجات. يمكن للآباء المتابعة مع الإخطار وطلب طوابع وقت المحادثة.
يقول جوناس: “نريد أن نمنح أولياء الأمور معلومات كافية لاتخاذ إجراءات وإجراء محادثة مع سن المراهقة مع الحفاظ على قدر من خصوصية المراهقين ، لأن المحتوى يمكن أن يتضمن أيضًا معلومات حساسة أخرى.”
يجب اختيار كل من حسابات الوالدين والمراهقين لتنشيط ميزات السلامة هذه. هذا يعني أن الآباء سيحتاجون إلى إرسال دعوة في سن المراهقة لمراقبة حسابهم ، ويطلب من المراهق قبولها. يمكن أيضًا بدء ربط الحساب من قبل المراهق.
يجوز لـ Openai الاتصال بإنفاذ القانون في المواقف التي يحدد فيها المشرفون البشريون أن المراهق قد يكون في خطر وأن الوالدين غير قادرين على الوصول إلى الإخطار. ليس من الواضح كيف سيبدو هذا التنسيق مع تطبيق القانون ، خاصة على نطاق عالمي.
