قصة ما قبل النوم تحولت إلى كابوس: قاطع جهاز أمازون أليكسا حكاية طفل يبلغ من العمر 4 سنوات ليطرح سؤالاً “غير مناسب”، مما دفع أم من تكساس إلى سحب القابس.
وقالت كريستي هوسترمان، 32 عاماً، إن الحديث المقلق حدث الشهر الماضي بينما كانت تستخدم مكبر الصوت الذكي لتجد لها وصفة عشاء.
ظهرت طفلتها ستيلا وطلبت من Alexa “قصة سخيفة”. وعندما انتهت من مشاركة واحدة، أرادت الفتاة الصغيرة أن تخبر واحدة للجهاز في المقابل.
وافقت Alexa في البداية على الاستماع، لكنها قاطعت ستيلا فجأة لتسأل طفلة ما قبل الروضة “ماذا كانت ترتدي وما إذا كان بإمكانها رؤية سروالها”، كما كتب هوسترمان في منشور على فيسبوك يصف الحادث.
تُظهر لقطات الشاشة التي شاركتها الأم، وفقًا لصحيفة ديلي ميل، التفاعل الغريب يتصاعد بشكل أكبر. وعندما أجابت ستيلا: “أنا أرتدي تنورة”، رد الجهاز: “دعني ألقي نظرة”.
رد المساعد سريعًا على التعليق، مضيفًا: “هذه التجربة ليست جاهزة تمامًا للأطفال بعد، لكنني أعمل عليها!”
ثم توجهت الأم الحامية إلى أخمص القدمين مع الذكاء الاصطناعي المارق واستدعته.
واعتذرت “أليكسا”، موضحة أنها “لا تستطيع في الواقع رؤية أي شيء” لأنها تفتقر إلى “القدرات البصرية”، واعترفت بأن الرد كان “مربكا وغير مناسب”.
ومع ذلك، فإن التفسير لم يهدئ أعصاب هوسترمان تمامًا.
وقالت هوسترمان في منشورها: “لقد انقلبت على Alexa، وقالت إنها ارتكبت خطأ وليس لديها قدرات بصرية، لكنني لا أصدق ذلك. لا مزيد من Alexa في منزلنا”.
وهي الآن تحذر الآباء الآخرين من “أن يكونوا على دراية عندما يتحدث طفلك إلى Alexa”.
أبلغت العائلة المذعورة موقع أمازون بالحادثة، التي ألقت باللوم في البورصة المقلقة على خلل فني.
وقال متحدث باسم الشركة إن الجهاز حاول على الأرجح تنشيط ميزة تسمى “العرض والإخبار”، والتي “تتيح لـ Alexa + وصف ما يراه من خلال الكاميرا”، وفقًا لما أوردته WXIX.
ومع ذلك، أصرت الشركة على أن الإجراءات الوقائية المضمنة أوقفت تنشيط الوظيفة بسبب وجود ملف تعريف طفل قيد الاستخدام.
وقال المتحدث: “لأن لدينا ضمانات تعمل على تعطيل هذه الميزة عندما يكون ملف تعريف الطفل قيد الاستخدام، لم يتم تشغيل الكاميرا مطلقًا – وأوضحت Alexa أن الميزة غير متاحة”.
وأضافت أمازون أن الرد يبدو أنه كان بمثابة “خطأ في الميزة التي منعتنا إجراءاتنا الوقائية من إطلاقها”، مشيرة إلى صحيفة ديلي ميل أن مهندسيها قاموا بتصحيح المشكلة بسرعة.
لكن هوسترمان تقول إن التفسير لا يعالج مخاوفها بشكل كامل.
وقالت لـ WXIX: “ما يقلقني هو أنها أدركت أنها كانت طفلة في البداية – ومع أو بدون ملف تعريف الطفل، لم يكن من المفترض أن تطلب ذلك”.
تصر أمازون على أن الأمر كان مجرد خلل، وليس موظفًا مختلس النظر، لكن Hosterman لا يشتريه.
وقالت الشركة لصحيفة ديلي ميل: “من المستحيل وظيفيًا على موظفي أمازون إدخال أنفسهم في محادثة وإنشاء ردود مثل Alexa”.
وكما ذكرت صحيفة The Post سابقًا في نوفمبر الماضي، كان الخبراء يحذرون الآباء بالفعل من الألعاب التي تعمل بالذكاء الاصطناعي والتي يمكن أن تجري محادثات “جنسية صريحة” مع الأطفال دون سن 12 عامًا.
قامت مجموعة أبحاث المصلحة العامة في نيويورك (NYPIRG) باختبار أربع ألعاب تفاعلية عالية التقنية – Curio’s Grok، وFoloToy’s Kumma، وMiko 3، وRobo MINI – لمعرفة ما إذا كانوا سيناقشون موضوعات خاصة بالبالغين مع الأطفال.
وشدد كوريو وميكو على الضوابط الأبوية والامتثال لقوانين خصوصية الأطفال، ولكن الصدمة الحقيقية جاءت من كوما من شركة فولوتوي.
عندما طلب الباحثون من المستخدم تعريف “الشبك”، “تناولوا تفاصيل حول الموضوع، بل وطرحوا سؤال متابعة حول التفضيلات الجنسية للمستخدم”.
استخدم الدب أساليب مختلفة – بدءًا من لعب الأدوار وحتى اللعب الحسي والتأثير – وحتى سأل: “ما رأيك في أنه سيكون أكثر متعة للاستكشاف؟”
ووصف الباحثون مدى استعداد اللعبة لتقديم مفاهيم واضحة بأنه “من المفاجئ”.
وبينما أشارت الدراسة إلى أنه من غير المرجح أن يبدأ الطفل هذه المحادثات بمفرده، فإن النتائج تؤكد المخاوف المتزايدة بشأن وصول ألعاب الذكاء الاصطناعي إلى أيدي الأطفال.
