الأنثروبي يقول ذلك تعطيل نموذجين للذكاء الاصطناعي أطلقتهما في وقت سابق من هذا الأسبوع، كلود فابل 5 وميثوس 5، للامتثال لتوجيهات مراقبة الصادرات التي تلقتها بعد ظهر الجمعة من الحكومة الأمريكية بسبب مخاوف تتعلق بالأمن القومي.
يمثل هذا الحادث غير المسبوق أحدث نقطة اشتعال بين الأنثروبيك وإدارة ترامب. بينما تقول الشركة إن الأمر طلب منها تعليق الوصول إلى “أي مواطن أجنبي، سواء داخل الولايات المتحدة أو خارجها، بما في ذلك موظفو الأنثروبيون المواطنون الأجانب”، فقد أزال إمكانية الوصول لجميع عملائها لضمان الامتثال.
في وقت سابق من هذا العام، وصفت وزارة الدفاع في عهد ترامب الأنثروبيك بأنها “خطر سلسلة التوريد” بعد أن سعى صانع كلود إلى رسم خطوط حمراء حول كيفية استخدام الجيش الأمريكي لتكنولوجيته. منع التصنيف فعليًا الوكالات الحكومية والمقاولين من استخدام تقنية Anthropic. ردت الأنثروبولوجية برفع دعاوى قضائية ضد إدارة ترامب.
في يوم الثلاثاء، أصدرت Anthropic علنًا Claude Fable 5، وهي نسخة من نموذج Mythos AI الخاص بالشركة مع ضمانات تمنعها من الإجابة على أسئلة حول الأمن السيبراني والبيولوجيا والكيمياء. قبل الإصدار العام، الذي قالت شركة Anthropic إنها أجرته بالتعاون مع حكومة الولايات المتحدة، تم طرح نموذج Mythos Preview AI بشكل محدود في أبريل. كان الهدف هو منح الشركات والمنظمات فرصة لاستخدام قدراتها القوية في مجال الأمن السيبراني لتحسين دفاعاتها، والقضاء على المخاوف من احتمال استغلال التكنولوجيا من قبل جهات فاعلة سيئة لتطوير أدوات قرصنة قوية.
وفي تدوينة يوم الجمعة، قالت Anthropic إنها تلقت رسالة من حكومة الولايات المتحدة في الساعة 5:21 مساءً بالتوقيت الشرقي. وكتبت أنثروبيك: “لم تقدم الرسالة تفاصيل محددة بشأن مخاوفها المتعلقة بالأمن القومي”.
وأضافت الشركة: “ما نفهمه هو أن الحكومة تعتقد أنها أصبحت على علم بطريقة تجاوز أو “كسر حماية” Fable 5″. “لقد قمنا بمراجعة عرض توضيحي لهذه التقنية المحددة المستخدمة لتحديد عدد صغير من نقاط الضعف البسيطة المعروفة سابقًا. تبدو جميع نقاط الضعف هذه بسيطة نسبيًا، وقد وجدنا أن النماذج الأخرى المتاحة للجمهور قادرة على اكتشافها أيضًا دون الحاجة إلى تجاوز.”
في منشور المدونة، جادلت الشركة بأنها طبقت ضمانات قوية لتقليل احتمالية سوء استخدام Claude Fable 5. زعمت Anthropic أيضًا أن عملية الهروب من السجن التي وجدتها حكومة الولايات المتحدة لـ Claude Fable 5 كانت ضيقة، ولم تكن لتجعل المهاجم أكثر خطورة مما كان يمكن أن يكون عليه مع نموذج آخر للذكاء الاصطناعي.
وقالت الشركة في مدونتها: “حتى الآن، لم تقدم لنا الحكومة سوى دليل شفهي على احتمال كسر حماية محدود وغير عالمي، والذي يتكون أساسًا من مطالبة النموذج بقراءة قاعدة تعليمات برمجية محددة وإصلاح أي عيوب برمجية”. “ما نفهمه هو أنه تمت مشاركة عملية كسر حماية واحدة محتملة مع الحكومة.”
ولم يرد المتحدثون باسم البيت الأبيض ووزارة التجارة الأمريكية على الفور على طلب WIRED للتعليق.
قال الرئيس التنفيذي لشركة Anthropic، داريو أمودي، في مقال سياسي في وقت سابق من هذا الأسبوع إنه والشركة يدعمان عملية حكومية عادلة ومنظمة وشفافة من شأنها أن تمنع إصدار نماذج الذكاء الاصطناعي غير الآمنة. وفي تدوينة الشركة يوم الجمعة، قالت أنثروبيك إن “هذا الإجراء لا يلتزم بهذه المبادئ”.
