يقول أناند: “الذكاء الاصطناعي باهظ الثمن. لنكن صادقين في ذلك”.
النمو مقابل السلامة
في أكتوبر 2024 ، رفعت والدة مراهقة توفي بسبب انتحار دعوى وفاة غير مشروعة ضد تقنيات الشخصية ، ومؤسسيها ، وجوجل ، والأبجدية ، زعمت أن الشركة استهدفت ابنها بـ “الأنثروبومورفورفيك ، والخبرات المتصلة بالمرخصة ، والخبرات المثيرة للبالغين ، وبرمجة مخيفة. في ذلك الوقت ، أخبرت متحدثة باسم CNBC أن الشركة “حزينة بسبب الخسارة المأساوية” وأخذت “سلامة مستخدمينا على محمل الجد”.
وضع الحادث المأساوي الشخصية. في وقت سابق من هذا العام ، كتب السناتور الأمريكيون أليكس باديلا وبيتر ويلش رسالة إلى العديد من منصات الرفقة من الذكاء الاصطناعى ، بما في ذلك الشخصية. AI ، مع تسليط الضوء على المخاوف بشأن “مخاطر الصحة العقلية والسلامة التي تم طرحها للمستخدمين الشباب” للمنصات.
“لقد كان الفريق يأخذ هذا بمسؤولية للغاية منذ ما يقرب من عام الآن” ، أخبرني أناند. “منظمة العفو الدولية هي العشوائية ، من الصعب دائمًا فهم ما سيحدث. لذلك ليس استثمارًا لمرة واحدة.”
هذا مهم للغاية لأن الحرف. AIR ينمو. لدى بدء التشغيل 20 مليون مستخدم نشط شهريًا يقضون ، في المتوسط ، 75 دقيقة في اليوم يتحدثون مع روبوت (“شخصية” في صورة character.ai). قاعدة مستخدمي الشركة هي 55 في المئة من الإناث. أكثر من 50 في المائة من مستخدميها هم Gen Z أو Gen Alpha. مع هذا النمو ، يأتي المخاطر الحقيقية – ما الذي يفعله أناند للحفاظ على سلامة مستخدميه؟
يقول أناند: “(في) الأشهر الستة الماضية ، لقد استثمرنا قدراً غير متناسب من الموارد في القدرة على الخدمة تحت سن 18 بشكل مختلف عن أكثر من 18 عامًا ، وهو ما لم يكن الحال في العام الماضي”. “لا أستطيع أن أقول ،” أوه ، يمكنني صفع تسمية 18+ على تطبيقي وأقول استخدامه لـ NSFW. ” ينتهي بك الأمر إلى إنشاء تطبيق مختلف تمامًا ومنصة مختلفة على نطاق صغير. “
يخبرني أناند أن أكثر من 10 من موظفي الشركة البالغ عددهم 70 موظفًا يعملون بدوام كامل على الثقة والسلامة. إنهم مسؤولون عن بناء ضمانات مثل التحقق من العمر ، ونماذج منفصلة للمستخدمين الذين تقل أعمارهم عن 18 عامًا ، وميزات جديدة مثل رؤى الوالدين ، والتي تتيح للآباء معرفة كيفية استخدام المراهقين الخاصة بهم.
طراز أقل من 18 تم إطلاقه في ديسمبر الماضي. ويشمل “مجموعة أضيق من الشخصيات القابلة للبحث على المنصة” ، وفقًا للمتحدثة باسم الشركة كاثرين كيلي. “تم تطبيق المرشحات على هذه المجموعة لإزالة الأحرف المتعلقة بالمواضيع الحساسة أو الناضجة.”
لكن أناند يقول إن سلامة الذكاء الاصطناعي ستستغرق أكثر من مجرد تعديلات فنية. يقول أناند: “إن جعل هذه المنصة آمنة هي شراكة بين المنظمين ، والولايات المتحدة والآباء”. هذا ما يجعل مشاهدة ابنته تتحدث مع شخصية مهمة للغاية. “هذا يجب أن يظل آمنًا لها.”
ما وراء الرفقة
سوق الرفقة الذكاء الاصطناعي مزدهرة. أنفق المستهلكون في جميع أنحاء العالم 68 مليون دولار على رفقة الذكاء الاصطناعى في النصف الأول من هذا العام ، بزيادة بنسبة 200 في المئة عن العام الماضي ، وفقا لتقدير استشهد به CNBC. تنطلق الشركات الناشئة من الذكاء الاصطناعي لشريحة من السوق: أصدرت Xai رفيقًا زاحفًا ومليئًا في يوليو ، وحتى Microsoft تقوم بتقوية chatbot copilot كصاحب منظمة العفو الدولية.
فكيف تبرز الحرف .اي في سوق مزدحم؟ يأخذ نفسه منه تماما.
