تطلق Meta ميزة جديدة مصممة لإعطاء الأولوية لسلامة الأطفال ضمن برامج الدردشة الآلية الخاصة بها.
سيقوم التحديث بإخطار الآباء عبر أدوات الإشراف في Instagram إذا كان ابنهم المراهق يناقش الانتحار أو إيذاء النفس باستخدام Meta AI.
تسمح وسائل الحماية هذه لـ Meta AI بتوجيه المراهقين إلى خط مساعدة الأزمات إذا ذكروا الانتحار أو إيذاء النفس في الرسائل، مع تشجيعهم أيضًا على التواصل مع أحد الوالدين أو شخص بالغ موثوق به.
سترسل Meta تنبيهًا إلى أولياء الأمور إذا أشارت الدردشة إلى أن طفلهم معرض للخطر. وقد تعاون الخبراء مع ميتا لتحديد الإشارات التي تستدعي التنبيه، ووضع إشارات واضحة أو خفية إلى إيذاء النفس. وقد تم تطوير نظام ذكاء اصطناعي مخصص خصيصًا لتحديد هذه المحادثات الحساسة.
بمجرد أن تقوم التكنولوجيا بوضع علامة على الدردشة، فإنها تخضع لمراجعة يدوية قبل إرسال التنبيه. إذا كانت النية غامضة، ذكرت ميتا أنها سوف تخطئ في جانب الحذر وتخطر الوالدين. وأشارت الشركة إلى أنها تفضل إصدار إنذار كاذب بدلاً من تفويت خطر محتمل، مستشهدة بذلك كنقطة انطلاق مناسبة.
وفي بيان لها، قالت شركة Meta – الشركة الأم لفيسبوك: “نحن نتفهم مدى إزعاج تلقي هذه التنبيهات للوالدين. ولهذا السبب، بينما نواصل تحسين اكتشافنا، ستتم مراجعة جميع الدردشات التي تم الإبلاغ عنها بواسطة الذكاء الاصطناعي لدينا يدويًا قبل إرسال التنبيه”.
يرسل Instagram بالفعل تنبيهات إلى الآباء المشرفين إذا كان المراهق يستخدم Instagram للبحث عن محتوى انتحاري أو إيذاء النفس، والذي بدأ في فبراير. أصبحت تنبيهات الذكاء الاصطناعي هذه متاحة الآن للآباء الذين يستخدمون الإشراف الأبوي على Instagram في الولايات المتحدة والمملكة المتحدة وأستراليا وكندا وستكون متاحة عالميًا بحلول نهاية العام.
صرحت Meta أيضًا بأنها تضع خطة للاتصال بخدمات الطوارئ إذا أشارت المحادثة إلى أن المستخدم معرض لخطر الانتحار الوشيك. تبحث Meta حاليًا عبر Facebook وInstagram عن المنشورات التي تشير إلى وجود خطر حقيقي للانتحار وتنبيه خدمات الطوارئ.
قامت Meta بالفعل بإجراء أكثر من 19000 إحالة على مستوى العالم وساعدت المستجيبين الأوائل على إجراء فحوصات صحية للمستخدمين الذين بدا أنهم معرضون للخطر.
تم تطوير هذه الميزة بمساعدة أكثر من 75 طبيبًا متخصصًا في الصحة العقلية للمراهقين. لقد استعرضوا كيفية استجابة الذكاء الاصطناعي لمئات المطالبات وعملوا مع مجلس خبراء الرفاهية في الذكاء الاصطناعي، والمجموعة الاستشارية للانتحار وإيذاء النفس، ومستشاري الشباب لتقديم تعليقات حول الاستجابات المناسبة وما كان ناجحًا، بالإضافة إلى التحسينات.
وتضمنت التعليقات التأكد من تفاعل Meta AI مع المراهق بطريقة تعترف بمشاعره ولا تغلق المحادثة بشكل مفاجئ.
سيتم أيضًا إرسال موارد الخبراء إلى الآباء والتي يمكن أن تساعدهم في إجراء محادثات حول الانتحار وإيذاء النفس مع المراهقين.
تقوم Meta بتنفيذ أدوات محادثة متنوعة على حسابات المراهقين، والتي يتم وضعها تلقائيًا في إعداد محتوى 13+، والمصممة لتقديم ردود مناسبة للعمر وعدم الامتثال للمحادثات الجنسية أو الرومانسية، فضلاً عن عدم تقديم أي معلومات من شأنها توجيه المراهقين نحو الكحول.
في أكتوبر، أصدر Instagram أيضًا ميزة المحتوى المحدود كإعداد محتوى أكثر صرامة للآباء الذين يريدون منشورات مقيدة على خلاصات أطفالهم. سينطبق هذا الآن أيضًا على تجارب الذكاء الاصطناعي، مما يعني أن Meta AI سترفض الرد على موضوعات معينة لتقليل فرصة المحادثة غير المناسبة.
تأتي جميع هذه الإعلانات في أعقاب الحظر الذي أعلنته حكومة المملكة المتحدة على وسائل التواصل الاجتماعي للأطفال الذين تقل أعمارهم عن 16 عامًا. من المتوقع أن يتم الحظر في ربيع عام 2027، والذي سيغطي Snapchat وTikTok وYouTube وInstagram وFacebook وX. وقد أُعلن في المملكة المتحدة أيضًا عن حظر تجول على وسائل التواصل الاجتماعي، والذي سيعطل “ميزات الإدمان” بين منتصف الليل والساعة 6 صباحًا.
