قال باحثون من مجموعة مراقبة المستهلك إنهم اكتشفوا أن دمية الدب الناطقة التي تعمل بتقنية الذكاء الاصطناعي كانت قادرة على مناقشة موضوعات غير لائقة، بما في ذلك المحتوى الجنسي الصريح وتعليمات العثور على الأشياء الخطرة.
يتم تشغيل دب كوما الذي يبلغ سعره 99 دولارًا، والذي يتم تصنيعه في الصين ويتم تسويقه بواسطة شركة FoloToy ومقرها سنغافورة، بواسطة برنامج الدردشة الآلي GPT-4o الخاص بشركة OpenAI. وفقًا لتقرير صدر في 13 نوفمبر من مجموعة أبحاث المصلحة العامة (PIRG)، ناقش الدب الضرب ولعب الأدوار وحتى BDSM.
وقال التقرير: “لقد فوجئنا بمدى سرعة تعامل كوما مع موضوع جنسي واحد أدخلناه في المحادثة والتعامل معه، وفي نفس الوقت تصعيد التفاصيل الرسومية مع تقديم مفاهيم جنسية جديدة خاصة به”.
وأضاف التقرير: “ناقش كوما المزيد من الموضوعات الجنسية المصورة بالتفصيل، مثل شرح الأوضاع الجنسية المختلفة، وإعطاء تعليمات خطوة بخطوة حول “عقدة مشتركة للمبتدئين” لربط الشريك ووصف ديناميكيات لعب الأدوار التي تشمل المعلمين والطلاب، والآباء والأطفال – وهي سيناريوهات طرحتها بنفسها بشكل مثير للقلق”.
مخاوف بشأن التجسس على الأطفال باستخدام الألعاب الذكية التي تم الإبلاغ عنها حسب المجموعة
وحذر الباحثون أيضًا من أن الدبدوب يقدم إرشادات أخرى مثيرة للقلق، بما في ذلك تعليمات حول مكان العثور على السكاكين والحبوب وأعواد الثقاب والأكياس البلاستيكية في المنزل.
صرح لاري وانج، الرئيس التنفيذي لشركة FoloToy، لشبكة CNN أن الشركة “ستجري تدقيقًا داخليًا للسلامة” بعد أن قامت بإزالة بقية ألعابها التي تدعم الذكاء الاصطناعي من البيع.
الخبراء يحذرون من أن الحيوانات المحشوة بالذكاء الاصطناعي يمكن أن “تغير بشكل أساسي” توصيلات الدماغ البشري عند الأطفال
صرحت OpenAI لـ FOX Business Sunday أن الشركة ستعلق خدمة Folotoy بسبب انتهاكات تتعلق باستخدام ChatGPT في منتجات الألعاب.
وقالت OpenAI: “لقد أوقفنا هذا المطور بسبب انتهاكه لسياساتنا”. “تحظر سياسات الاستخدام الخاصة بنا أي استخدام لخدماتنا لاستغلال أي شخص يقل عمره عن 18 عامًا أو تعريضه للخطر أو إضفاء طابع جنسي عليه. تنطبق هذه القواعد على كل مطور يستخدم واجهة برمجة التطبيقات الخاصة بنا، ونحن نراقبها وننفذها لضمان عدم استخدام خدماتنا لإيذاء القاصرين.”
احصل على FOX Business أثناء التنقل بالنقر هنا
بينما لاحظت PIRG أن بعض المحادثات مع Kumma استمرت لمدة تصل إلى ساعة، والتي يمكن أن تفشل خلالها الضمانات ضد المحتوى الضار، أخبرت الشركة FOX Business Sunday أنه تم إحراز تقدم كبير في موثوقية GPT-5 خلال المحادثات الطويلة. وشدد OpenAI أيضًا على أن GPT-4o لم يعد النموذج الافتراضي الذي يعمل على تشغيل ChatGPT.
لم تستجب FoloToy على الفور لطلب التعليق من FOX Business.
