الأنثروبي يتراجع على سياسة من شأنها أن تمنع المنافسين سرًا من استخدام نموذج الذكاء الاصطناعي الجديد الخاص بها، Claude Fable 5، لتطوير نماذج أخرى للذكاء الاصطناعي. غيرت الشركة مسارها بعد أن تلقت هذه الخطوة رد فعل عنيفًا كبيرًا من مجتمع أبحاث الذكاء الاصطناعي.
“نحن نغير ضمانات Fable 5 لتطوير LLM الحدودي لجعلها مرئية.” وقال الأنثروبي في بيان لـ WIRED. “لقد قمنا بمقايضة خاطئة ونعتذر عن عدم تحقيق التوازن الصحيح.”
أصدرت Anthropic لعبة Claude Fable 5، وهي نسخة من أحدث طراز للذكاء الاصطناعي مع حواجز أمان إضافية مصممة لمنع سوء الاستخدام، في وقت سابق من هذا الأسبوع. بعض الإجراءات الوقائية التي قررتها شركة Anthropic لم تكن مفاجئة: قالت الشركة إنها ستعيد توجيه المستخدمين الذين طرحوا أسئلة حول الأمن السيبراني أو البيولوجيا أو الكيمياء إلى نموذج ذكاء اصطناعي أقل قدرة لتقليل فرص استخدام شخص ما للذكاء الاصطناعي المتقدم لتنفيذ هجوم إلكتروني أو بناء سلاح بيولوجي.
لكن بالنسبة للباحثين الذين يحاولون استخدام Claude Fable 5 لتطوير الذكاء الاصطناعي الحدودي، فقد حددت Anthropic نهجًا مختلفًا. ستقوم الشركة عمدًا بتخفيض أداء النموذج بطرق غير مرئية للمستخدم. من شأن هذه الخطوة أن تؤدي بشكل فعال إلى تخريب الباحثين الذين يحاولون استخدام كلود لتدريب نماذج الذكاء الاصطناعي المنافسة، والتي تحظرها شركة Anthropic صراحةً في شروط الخدمة الخاصة بها.
تقول Anthropic الآن إنها تغير مسارها، وأن ضمانات Claude Fable 5 لتطوير الذكاء الاصطناعي ستكون مرئية للمستخدمين. إذا اشتبهت الشركة في أن أحد المستخدمين يحاول استخدام Claude لبناء ذكاء اصطناعي عالي القدرة، فسوف تنبههم إلى أنها إما ترفض الطلب، أو تعيد توجيه المستخدم إلى نموذج أقل قدرة.
عكست أنثروبيك هذه السياسة بعد أن تلقت رد فعل عنيفًا من مجتمع أبحاث الذكاء الاصطناعي. لقد اتخذت شركة Anthropic بالفعل خطوات لمنع المنافسين من استخدام Claude لبناء نماذج مغلقة ومفتوحة المصدر للذكاء الاصطناعي، لكن النقاد يقولون إن التدهور بهدوء في أداء النموذج لبعض المستخدمين قد ذهب إلى أبعد من اللازم. أصبح وكيل البرمجة الخاص بكلود أداة مفضلة بين المطورين، بما في ذلك أولئك الذين يعملون في مشاريع بحثية مفتوحة المصدر للذكاء الاصطناعي، وأخبر الباحثون مجلة WIRED أن أحدث سياسة للشركة كان من الممكن أن تؤدي إلى مستقبل مقلق حيث لا يمكن إلا لعدد قليل من مختبرات الذكاء الاصطناعي الرائدة إجراء أبحاث متقدمة في مجال الذكاء الاصطناعي.
كتب دين بول، أحد كبار زملاء مؤسسة الابتكار الأمريكي والمستشار السابق للبيت الأبيض في مجال الذكاء الاصطناعي، في منشور على موقع X أن “الأداء المهين في أبحاث تعلم الآلة *دون إخبار المستخدم* هو أمر عدائي بشكل صادم ومظهر فظيع”. وتابع في منشور آخر أن سياسة “التخريب السري” تقوض الموقف العام لشركة Anthropic، لأنها تحد من تعاون باحثي الذكاء الاصطناعي في مجال سلامة الذكاء الاصطناعي.
يقول ويل براون، قائد الأبحاث في شركة Prime Intellect الناشئة للذكاء الاصطناعي مفتوح المصدر: “بدا الأمر كما لو أن الأنثروبيك تقول للجمهور: “نحن لا نثق في أي شخص آخر لإجراء أبحاث الذكاء الاصطناعي. نحن الوحيدون الذين يتعين عليهم إجراء أبحاث الذكاء الاصطناعي”. “يبدو الأمر وكأنهم بدأوا في سحب السلم خلفهم.”
وقال براون إن هذه السياسة كانت ستترك المطورين في حالة من الجهل بشأن ما إذا كانوا ينتهكون قواعد Anthropic، لأن الشركة لن تنبههم عند تفعيل إجراءات الحماية الخاصة بها. وأضاف أن القيود كان من الممكن أن يكون لها عواقب واسعة النطاق. على سبيل المثال، أشار إلى النظام البيئي المتنامي لشركات التقييم التابعة لأطراف ثالثة والتي تختبر النماذج الرائدة فيما يتعلق بالسلامة والأداء والموثوقية، وهو العمل الذي كان من الممكن إعاقته إذا قامت شركة أنثروبيك سراً بتدهور نموذجها.
