أواخر الأسبوع الماضي، قامت شركة Anthropic بإيقاف تشغيل طرازي Claude Fable 5 وMythos 5 AI الجديدين عن الإنترنت بعد توجيهات حكومة الولايات المتحدة لمراقبة الصادرات والتي تمنع “أي مواطن أجنبي” من استخدام الخدمات. وتجري الشركة محادثات مع البيت الأبيض منذ يوم الجمعة، لكنها لم تتوصل بعد إلى اتفاق يسمح لها بإعادة العروض.
منذ ظهور Mythos لأول مرة في أبريل، زعمت Anthropic – وحذرت – أن النموذج يتمتع بقدرات متقدمة ليس فقط للعثور على ثغرات البرامج لمساعدة المدافعين على تصحيحها، ولكن أيضًا لاكتشاف طرق لاستغلالها يمكن أن يستخدمها الممثلون السيئون. لاحظت شركة Anthropic نفسها هذا السيف ذو الحدين في إطلاقها لـ Mythos 5 وClaude Fable 5. “إن قدرًا كبيرًا من الاستخدام المتقدم لنماذج الذكاء الاصطناعي هو استخدام مزدوج: نفس الاستعلامات المفيدة في أيدي متخصصي الأمن السيبراني والباحثين في علم الأحياء يمكن أن تكون خطيرة إذا كانت متاحة للجهات الفاعلة الضارة”، كما كتبت الشركة في منشور مدونة الأسبوع الماضي.
مع أخذ هذا في الاعتبار، أصدرت الشركة في البداية نسخة تسمى Mythos Preview إلى اتحاد محدد كجزء من مجموعة عمل تعرف باسم Project Glasswing. تم إصدار Mythos 5 أيضًا بشكل خاص لهذه المجموعة الأسبوع الماضي، بينما تم إصدار Claude Fable 5، وهو نموذج من فئة Mythos، لعامة الناس مع حظر محدد على قدرته على تقديم إجابات على أسئلة حول علم الأحياء والأمن السيبراني.
ثم، في نهاية الأسبوع الماضي، تحركت إدارة ترامب لتقييد كلا النموذجين لأنها تعتقد أنه يمكن تعطيل حواجز الحماية الخاصة بـ Fable 5 للسماح بالوصول الكامل إلى قدرات Mythos 5، مما يجعلها خطرًا على الأمن القومي.
ومع ذلك، يقول الخبراء إن هذا الصدام المؤسسي يؤدي ببساطة إلى تأخير أو إخفاء حقيقة قاسية: قد تكون الأنثروبولوجيا هي رأس الرمح في هذه اللحظة، ولكن من المؤكد أن قدرات الذكاء الاصطناعي بشكل عام والنماذج من شركات متعددة ومطورين ذوي الوزن المفتوح سيكون لها قدرات مماثلة لتلك الموجودة في Mythos 5 في المستقبل القريب – إذا لم تكن تمتلكها بالفعل.
تقول تارا ويلر، كبيرة مسؤولي الأمن في شركة استشارات الأمن السيبراني المتخصصة TPO Group: “من قصير النظر إلى أقصى الحدود الاعتقاد بأنه لن يتمكن أي منافس آخر لشركة Anthropic من تطوير قدرات مماثلة لميثوس أو حتى أنهم لم يفعلوا ذلك بالفعل”. “هناك شركات أخرى تحذو حذو شركة Anthropic، والتي ربما تمتلك القدرات أيضًا، وتحتفظ بها احتياطيًا لأنها ترى كيف يتم التعامل مع شركة Anthropic في البيئة التنظيمية الحالية.”
لقد أكدت Anthropic نفسها على هذه النقطة منذ إطلاق Mythos Preview. قال لوجان جراهام، قائد الفريق الأحمر الحدودي للشركة، لـ WIRED عندما تم إطلاق Mythos Preview في أبريل: “الرسالة الحقيقية هي أن الأمر لا يتعلق بالنموذج أو بالإنسان”. “نحن بحاجة إلى الاستعداد الآن لعالم تتوفر فيه هذه القدرات على نطاق واسع خلال 6 أو 12 أو 24 شهرًا.”
على سبيل المثال، أصدرت شركة OpenAI أيضًا إصدارًا خاصًا لنموذج يركز على الأمن السيبراني في منتصف أبريل وأعلنت عن استراتيجية موسعة للأمن السيبراني.
ويشير الباحثون إلى أنه حتى قبل هذا الجيل التالي من النماذج، يمكن استخدام عروض الذكاء الاصطناعي الحالية في عمليات البحث المتقدمة عن الثغرات الأمنية واستغلالها باستخدام أداة محسنة. وأكدت مجموعة كبيرة من قادة الأمن السيبراني هذا الأمر للإدارة في رسالة مفتوحة يوم الأحد، بحجة أن توجيهات البيت الأبيض بشأن مراقبة الصادرات كانت مضللة.
يقول بروس شناير، الباحث في جامعة هارفارد وجامعة تورونتو، الذي كان يحلل الوضع: “إنه ليس نموذجًا واحدًا؛ إنه الاتجاه العام للتكنولوجيا”. “يمكن للنماذج الأصغر والأرخص والمفتوحة المصدر، أحيانًا بمفردها وأحيانًا بالتنسيق مع بعضها البعض، أن تضاهي أداء Mythos/Fable مع مطالبة أكثر تعقيدًا. ويجب أن نتوقع أن تتطابق النماذج الأخرى مع إبداع Mythos/Fable ومثابرتها في غضون أشهر – أطول قليلاً بالنسبة للنماذج مفتوحة المصدر. “
يقول الخبراء إن ما يحتاج البيت الأبيض والحكومات في جميع أنحاء العالم إلى التركيز عليه هو تطوير خطط أوسع وأكثر شفافية بشكل ديمقراطي لكيفية التعامل مع التقدم في قدرات الذكاء الاصطناعي في مجال الأمن السيبراني وفي المجالات الحساسة الأخرى عندما تحدث حتما.
يقول كريس ويسوبال، المؤسس المشارك لشركة Veracode للأمن السحابي: “إن السؤال المتعلق بالسياسة ليس ما إذا كانت التكنولوجيا تنطوي على مخاطر أم لا”. “السؤال هو ما إذا كان تقييد معين يقلل بشكل ملموس من هذا الخطر أم أنه يبطئ بشكل أساسي الأشخاص الذين يحاولون جعل الأنظمة أكثر أمانًا.”
