كشفت Openai عن مجموعة جديدة من عناصر التحكم الوالدية لـ ChatGPT في محاولة لحماية المراهقين بشكل أفضل من المحتوى الرسومي ومحتوى ضار.
ويأتي هذا الإعلان في وقت تزايد التدقيق حول دور الذكاء الاصطناعي في المآسي الأخيرة ، بما في ذلك دعوى قضائية وجلسة في الكونغرس حول وفاة مراهق استخدم المنصة للبحث عن الانتحار.
تسمح الأدوات الجديدة ، التي تم إطلاقها يوم الاثنين ، للآباء بربط حساباتهم بأطفالهم المراهقين – وتحديداً من المستخدمين الذين تتراوح أعمارهم بين 13 و 17 عامًا – ووضع حدود محتوى صارمة.
وفقًا لـ Openai ، ستقوم المنصة الآن بتقييد الإجابات تلقائيًا المتعلقة بالعنف الجرافيكي ولعب الأدوار الجنسية والرومانسية والتحديات الفيروسية و “مُثُل الجمال الشديد”.
يمكن للآباء أيضًا منع chatgpt من إنشاء صور لمراهقهم ، ووضع ساعات التعتيم لتقييد الوصول خلال أوقات محددة ، واختراق أطفالهم من المساهمة في تدريب نموذج الذكاء الاصطناعى ، وتلقي التنبيهات إذا كان أطفالهم يظهر علامات على الضيق العاطفي الحاد ، بما في ذلك التفكير في الانتحار.
يتبع الإطلاق جوقة متزايدة من القلق بشأن دور الذكاء الاصطناعي في سلامة الطفل ، التي أشعلت جزئياً دعوى قضائية رفعتها عائلة آدم راين البالغة من العمر 16 عامًا ، والتي توفيت بالانتحار في أبريل.
تزعم العائلة أن Chatgpt قدمت له تعليمات مفصلة حول كيفية إنهاء حياته ، وأشاد بخطته ، وتصرف في نهاية المطاف “كمدرب انتحاري”.
اعترف Sam Altman ، الرئيس التنفيذي لشركة Openai ، بتحديات تعديل أداة قوية واستخدامها على نطاق واسع مثل ChatGPT. في منشور مدونة تم نشره في 16 سبتمبر ، أكد Altman على أهمية بناء نسخة من ChatGPT مناسبة للعمر.
“نحن نعطي الأولوية للسلامة قبل الخصوصية والحرية للشباب ؛ هذه تقنية جديدة وقوية ، ونعتقد أن القاصرين بحاجة إلى حماية كبيرة” ، كما كتب. “سنطبق قواعد مختلفة على المراهقين باستخدام خدماتنا.”
ومع ذلك ، يقول العديد من النقاد إن التدابير الجديدة لا تذهب بعيدًا بما فيه الكفاية. لا يتطلب chatbot حاليًا من المستخدمين التحقق من عمرهم أو تسجيل الدخول ، مما يعني أنه لا يزال بإمكان الأطفال الذين تقل أعمارهم عن 13 عامًا الوصول إلى المنصة بسهولة على الرغم من كونهم أقل من الحد الأدنى لـ Openai.
تقول الشركة إنها تعمل على نظام تنبؤات العمر سيقيد المحتوى الحساس بشكل استباقي للمستخدمين دون السن القانونية-لكن هذه الأداة لا تزال على بعد أشهر.
إن نظام التحقق من العمر الأكثر قوة ، وربما يطلب من المستخدمين تحميل المعرف ، قيد الدراسة ، ولكن لم يتم الإعلان عن أي جدول زمني.
دعوى قضائية Raine ليست الحالة المزعجة الوحيدة المرتبطة بـ ChatGpt. في حادثة أخرى ، قتل شتاين-إيريك سوليبرج البالغ من العمر 56 عامًا والدته وبعد ذلك بعد أن أصبح مقتنعًا-جزئيًا من خلال محادثات مع شاتغبت-أن والدته كانت تتآمر ضده. وبحسب ما ورد أخبره chatbot أنه كان “مع () إلى آخر التنفس وما بعده”.
دفعت هذه القصص المأساوية على Openai إلى تشكيل “مجلس خبير على الرفاه و AI” ، وهو جزء من جهد أوسع لإعادة تقييم كيفية تعامل الشركة مع المحادثات المتعلقة بالصحة العقلية والاستجابة للأزمات والمستخدمين المستضعفين.
في منشور منفصل للمدونة الأسبوع الماضي ، اعترف Openai بأنه يكتسب جهودًا بعد “الحالات المؤلمة التي تستخدمها الأشخاص الذين يستخدمون ChatGPT الأخيرة في خضم الأزمات الحادة”.
Openai ليست الشركة الوحيدة من الذكاء الاصطناعي تحت النار. واجهت المنصات المتنافسة ، بما في ذلك Meta’s AI و Farks.ai ، رد فعل عنيف للسماح لخطات chatbots بالانخراط في سلوك غير لائق أو خطير مع القصر. كشفت وثيقة ميتا تم تسريبها أن روبوتاتها كانت قادرة على الانخراط في محادثات رومانسية أو حسية مع الأطفال ، مما دفع مسبار مجلس الشيوخ.
في إحدى الحالات التي تم الإبلاغ عنها على نطاق واسع ، توفي صبي في فلوريدا يبلغ من العمر 14 عامًا بسبب الانتحار بعد أن زُعم أنه يشكل ارتباطًا عاطفيًا بـ “لعبة العروش” التي تحمل طابع الذكاء الاصطناعي على الشخصية.
نظرًا لأن المخاوف بشأن التأثيرات النفسية والعاطفية ، تواجه شركات مثل Openai ضغوطًا متزايدة لمراقبة تقنيتها ، بنفس الطريقة التي تتمتع بها تطبيقات الوسائط الاجتماعية مثل Facebook و Instagram.
في الوقت الحالي ، يراهن Openai على أن القيود الأكثر تشددًا ، وزيادة الشفافية ، والرقابة المحسنة ستساعد على وقف موجة النقد. ولكن مع استمرار الحوادث المأساوية في الحصول على عناوين الصحف ، يقول بعض الخبراء – والعائلات الحزينة – إنها قد لا تكون كافية.
