في جامعة ستانفورد، شارك العشرات من الحاضرين في محادثات مطولة حول مخاطر وفوائد رفاق الروبوتات. يقول ساني ليو، مدير برامج الأبحاث في جامعة ستانفورد: “في نهاية المطاف، نرى بالفعل قدرًا كبيرًا من الاتفاق”. وسلطت الضوء على حماس المجموعة بشأن “الطرق التي يمكننا من خلالها استخدام هذه الأدوات للجمع بين الأشخاص الآخرين”.
سلامة المراهقين
كان موضوع كيف يمكن لرفاق الذكاء الاصطناعي أن يؤثروا على الشباب هو الموضوع الرئيسي للمناقشة، مع وجهات نظر الموظفين في شركة Character.AI، التي تم تصميمها للعب الأدوار والتي تحظى بشعبية كبيرة بين المراهقين، بالإضافة إلى خبراء في صحة المراهقين عبر الإنترنت، مثل Digital Wellness Lab في مستشفى بوسطن للأطفال.
يأتي التركيز على المستخدمين الأصغر سنًا في الوقت الذي يرفع فيه العديد من الآباء دعوى قضائية ضد صانعي برامج الدردشة، بما في ذلك OpenAI وCharacter.AI، بسبب وفاة الأطفال الذين تفاعلوا مع الروبوتات. أضافت OpenAI قائمة من ميزات الأمان الجديدة للمراهقين كجزء من استجابتها. وفي الأسبوع المقبل، تخطط شركة Character.AI لمنع المستخدمين الذين تقل أعمارهم عن 18 عامًا من الوصول إلى ميزة الدردشة.
طوال عام 2025، اعترفت شركات الذكاء الاصطناعي، صراحة أو ضمنا، بأنها تستطيع بذل المزيد لحماية المستخدمين الضعفاء، مثل الأطفال، الذين قد يتفاعلون مع رفاقهم. “من المقبول إشراك طفل في محادثات رومانسية أو حسية”، هذا ما جاء في وثيقة تعريفية داخلية تحدد إرشادات سلوك الذكاء الاصطناعي، وفقًا لتقارير من رويترز.
وخلال الضجة التي أعقبت ذلك من المشرعين والآباء الغاضبين، قامت ميتا بتغيير التوجيهات وتحديث نهج السلامة الذي تتبعه الشركة تجاه المراهقين.
لعب الأدوار رول كول
أثناء مشاركة Character.AI في ورشة العمل، لم يكن هناك أحد من Replika، وهو موقع مماثل للعب الأدوار، أو Grok، وهو روبوت Elon Musk مع رفاق الرسوم المتحركة NSFW. ولم يرد المتحدثون باسم Replika وGrok على الطلبات الفورية للتعليق.
على الطرف الواضح تمامًا من الطيف، ظهر صانعو Candy.ai، المتخصصون في برامج الدردشة المفعمة بالحيوية للرجال المغايرين. يمكن لمستخدمي المنصة المخصصة للبالغين فقط، والتي أنشأتها شركة EverAI، دفع المال لإنشاء صور غير خاضعة للرقابة للنساء الاصطناعيات، مع قصص خلفية تحاكي المجازات الإباحية الشائعة. على سبيل المثال، من بين الرفيقات اللاتي يظهرن على صفحة Candy الرئيسية منى، “الأخت غير الشقيقة المتمردة” التي تعيشين بمفردك في المنزل، وElodie، ابنة أحد الأصدقاء التي “بلغت للتو 18 عامًا”.
