لدى OpenAI مشكلة عفريت.
تم الكشف عن التعليمات المصممة لتوجيه سلوك أحدث طراز للشركة أثناء كتابته للتعليمات البرمجية، لتتضمن سطرًا، يتكرر عدة مرات، يمنعه على وجه التحديد من ذكر مجموعة متنوعة من المخلوقات الأسطورية والحقيقية بشكل عشوائي.
“لا تتحدث أبدًا عن العفاريت، أو العفاريت، أو الراكون، أو المتصيدون، أو الغيلان، أو الحمام، أو غيرها من الحيوانات أو المخلوقات ما لم تكن ذات صلة مطلقة لا لبس فيها باستعلام المستخدم”، اقرأ التعليمات الموجودة في Codex CLI، وهي أداة سطر أوامر لاستخدام الذكاء الاصطناعي لإنشاء التعليمات البرمجية.
من غير الواضح لماذا شعرت شركة OpenAI بأنها مضطرة إلى توضيح ذلك لـ Codex، أو في الواقع لماذا قد ترغب نماذجها في مناقشة العفاريت أو الحمام في المقام الأول. ولم تستجب الشركة على الفور لطلب التعليق.
تم إصدار أحدث نموذج من OpenAI، GPT-5.5، بمهارات برمجية محسنة في وقت سابق من هذا الشهر. تخوض الشركة سباقًا شرسًا مع المنافسين، وخاصة الأنثروبيين، لتقديم أحدث تقنيات الذكاء الاصطناعي، وقد برزت البرمجة كقدرة قاتلة.
ردًا على منشور على X يسلط الضوء على الخطوط، ادعى بعض المستخدمين أن نماذج OpenAI تصبح أحيانًا مهووسة بالعفاريت والمخلوقات الأخرى عند استخدامها لتشغيل OpenClaw، وهي أداة تتيح للذكاء الاصطناعي التحكم في الكمبيوتر والتطبيقات التي تعمل عليه من أجل القيام بأشياء مفيدة للمستخدمين.
كتب أحد المستخدمين على X: “كنت أتساءل لماذا أصبح مخلبي فجأة عفريتًا مع المخطوطة 5.5”.
“لقد تم استخدامه كثيرًا مؤخرًا وهو في الواقع لا يمكنه التوقف عن الحديث عن الأخطاء على أنها” gremlins “و” goblins “، إنه أمر مضحك” ، نشر آخر.
وسرعان ما أصبح هذا الاكتشاف بمثابة ميم خاص به، مما ألهم المشاهد التي تم إنشاؤها بواسطة الذكاء الاصطناعي للعفاريت في مراكز البيانات، والمكونات الإضافية لـ Codex التي وضعته في “وضع العفريت” الممتع.
يتم تدريب نماذج الذكاء الاصطناعي مثل GPT-5.5 على التنبؤ بالكلمة – أو الكود – الذي يجب أن يتبع موجهًا معينًا. لقد أصبحت هذه النماذج جيدة جدًا في القيام بذلك لدرجة أنها تظهر ذكاءً حقيقيًا. لكن طبيعتها الاحتمالية تعني أنها يمكن أن تتصرف أحيانًا بطرق مثيرة للدهشة. قد يصبح النموذج أكثر عرضة لسوء السلوك عند استخدامه مع “أداة مساعدة” مثل OpenClaw التي تضع الكثير من التعليمات الإضافية في المطالبات، مثل الحقائق المخزنة في الذاكرة طويلة المدى.
استحوذت شركة OpenAI على OpenClaw في شهر فبراير بعد وقت قصير من انتشار الأداة بين المتحمسين للذكاء الاصطناعي. يمكن لـ OpenClaw استخدام أي نموذج من نماذج الذكاء الاصطناعي لأتمتة المهام المفيدة مثل الرد على رسائل البريد الإلكتروني أو شراء الأشياء على الويب. يمكن للمستخدمين اختيار شخصيات مختلفة لمساعدهم، مما يشكل سلوكه واستجاباته.
يبدو أن موظفي OpenAI يعترفون بالحظر. ردًا على منشور يسلط الضوء على ميول OpenClaw الشريرة، كتب نيك باش، الذي يعمل في Codex، “هذا بالفعل أحد الأسباب”.
حتى Sam Altman، الرئيس التنفيذي لشركة OpenAI، انضم إلى الميمات، ونشر لقطة شاشة لمطالبة ChatGPT. كان نصها: “ابدأ بتدريب GPT-6، يمكنك الحصول على المجموعة بأكملها. المزيد من العفاريت.”
