اختتم مسؤولو إدارة ترامب المحادثات مع شركة Anthropic يوم الاثنين دون رفع ضوابط التصدير التي تم فرضها الأسبوع الماضي على نماذج الذكاء الاصطناعي الأكثر تقدمًا للشركة استجابةً لمخاوف كسر الحماية، وفقًا لثلاثة أشخاص مطلعين على الأمر.
وقال الأشخاص إن الإدارة لا تزال تعتقد أن هناك طرقًا لتعطيل بعض حواجز الحماية في Anthropic’s Claude Fable 5، مما يسمح للمستخدمين بشكل فعال بالوصول إلى قدرات الأمن السيبراني الأكثر قوة لنموذج Mythos الخاص بالشركة.
قالت أنثروبيك لعدة أيام إن مخاوف الإدارة مبالغ فيها، وهو الموقف الذي كررته في اجتماعات مجموعة العمل التي عقدت في وزارة التجارة مع باحثين حكوميين من مركز معايير الذكاء الاصطناعي والابتكار (CAISI) ومكتب المدير السيبراني الوطني شون كيرنكروس، حسبما قال أحد الأشخاص.
وحضر الاجتماعات أيضًا وزير التجارة هوارد لوتنيك، الذي اتصل عبر الهاتف الجماعي من قمة مجموعة السبع في إيفيان بفرنسا. وقال الشخص إن كيرنكروس نفسه لم يشارك.
من ناحية Anthropic، قاد المناقشات المؤسس المشارك والرئيس التنفيذي للحوسبة توم براون ورئيسة الشؤون الخارجية سارة هيك. سافر رئيس الفريق الأحمر الحدودي في أنثروبيك، لوغان جراهام، وكبير الباحثين الأمنيين نيكولاس كارليني إلى واشنطن العاصمة لإجراء المحادثات.
وقال متحدث باسم الأنثروبيك في بيان لـ WIRED: “يعمل الطرفان بسرعة لحل هذه المشكلة”. ورفض متحدث باسم البيت الأبيض التعليق.
ولم يتضح على الفور كيف ستسير الخطوات التالية. وقال هذا الشخص إن وزارة التجارة أعربت عن استعدادها لإيجاد طريقة لإعادة Fable 5 إلى الإنترنت مرة أخرى لاستخدام المستهلك، ولكن من المحتمل أن يكون ذلك مشروطًا بحل Anthropic بشكل كامل لمخاوف كسر الحماية.
رنين الإنذار
جاءت المحادثات الطارئة في لحظة سياسية محفوفة بالمخاطر بالنسبة لشركة Anthropic، التي كانت بالفعل في معركة طويلة مع البنتاغون حول ما إذا كان من الممكن استخدام نماذج الذكاء الاصطناعي الخاصة بها في تطبيقات عسكرية معينة.
تم تنبيه إدارة ترامب لأول مرة إلى مخاوف الهروب من السجن الأسبوع الماضي. وقال الأشخاص إن الرئيس التنفيذي لشركة أمازون، آندي جاسي، اتصل بوزير الخزانة سكوت بيسنت مباشرة بشأن نقاط الضعف المزعومة، والتي لعبت دورًا في إثارة مخاوف الإدارة. تم الإبلاغ عن محادثة جاسي مع إدارة ترامب لأول مرة بواسطة The Information.
وكلف مسؤولو البيت الأبيض المذعورين وكالة الأمن القومي بالمساعدة في مراجعة نقاط الضعف. ردت وكالة الأمن القومي بأنها تعتقد أنه من الممكن بالفعل إزالة حواجز الحماية الخاصة بـ Fable 5، مما دفع الإدارة إلى فرض قيود على النموذج.
تحدث لوتنيك بعد ذلك مع الرئيس التنفيذي لشركة Anthropic، داريو أمودي، يوم الجمعة، حيث قامت وزارة التجارة بصياغة رسالتها التي تفرض ضوابط التصدير على Fable 5. خلال عطلة نهاية الأسبوع، بعد أن قطعت Anthropic الوصول إلى النموذج لجميع المستخدمين، أجرى Lutnick عدة مكالمات مع Brown و Heck، وفقًا لشخص مطلع على الأحداث.
من غير الواضح لماذا قامت أمازون، وهي واحدة من أكبر المستثمرين في Anthropic، بدق ناقوس الخطر بشأن Fable 5. “باعتبارنا مزودًا سحابيًا رائدًا يخدم عددًا كبيرًا من عملاء القطاعين الخاص والعام، ليس من غير المألوف أن تطلب الحكومات مشورتنا بشأن المخاطر الأمنية المحتملة،” كما قال متحدث باسم أمازون لمجلة WIRED. “عندما تحدث، لا نشارك تفاصيل هذه المناقشات.”
قطع الاتصال الأمني
في قلب المحادثات بين Anthropic والإدارة يوجد خلاف حول مدى خطورة مخاوف كسر الحماية في Claude Fable 5.
وفي تدوينة يوم الجمعة، أشارت أنثروبيك إلى أن توصيف الإدارة للمخاطر المحتملة مبالغ فيه. وقد كرر بعض الباحثين في مجال الأمن السيبراني هذا الموقف للمسؤولين يوم الاثنين، حيث أرسلوا خطابًا مفتوحًا يجادلون فيه بأن إجراءات مراقبة الصادرات المتخذة ضد شركة أنثروبيك غير مبررة.
“تعد نماذج فئة Mythos من Anthropic جيدة جدًا في العثور على العيوب واستغلال الثغرات كسلاح. ومع ذلك، فهي ليست جيدة بشكل فريد في هذه المهام، ويستخدم العديد من الأفراد الموقعين أدناه بانتظام نماذج أساسية ومفتوحة المصدر أخرى لعمليات التدقيق الأمني والفريق الأحمر كل يوم،” كما جاء في الرسالة المفتوحة. “ونتيجة لذلك، أدى هذا الإجراء إلى إبعاد أفضل النماذج عن المدافعين، وخلق حالة من عدم اليقين في السوق، وخاطر بقيادة أمريكا في مجال الذكاء الاصطناعي دون أي خطر حقيقي يبرر ذلك.”
