بعد تسريبات في نهاية شهر مارس، قامت شركة Anthropic بتطوير نموذج جديد قوي لكلود، أعلنت الشركة رسميًا عن Mythos Preview يوم الثلاثاء جنبًا إلى جنب مع أخبار عن اتحاد الصناعة الذي عقدته، والمعروف باسم Project Glasswing، للتعامل مع آثار الأمن السيبراني للنموذج الجديد والقدرات المتقدمة بشكل عام عبر مجال الذكاء الاصطناعي.
وتضم المجموعة ميكروسوفت، وأبل، وجوجل، بالإضافة إلى أمازون ويب سيرفيسز، ومؤسسة لينكس، وسيسكو، ونفيديا، وبرودكوم، وأكثر من 40 مؤسسة أخرى متخصصة في التكنولوجيا والأمن السيبراني والبنية التحتية الحيوية والمؤسسات المالية التي سيكون لها وصول خاص إلى النموذج، والذي لم يتم إصداره بشكل عام بعد. تتمثل الفكرة جزئيًا في منح مطوري منصات التكنولوجيا الأساسية في العالم وقتًا لتشغيل Mythos Preview على أنظمتهم الخاصة حتى يتمكنوا من تخفيف نقاط الضعف واستغلال السلاسل التي يطورها النموذج في محاكاة الهجمات. على نطاق أوسع، تؤكد شركة أنثروبيك على أن الغرض من عقد هذا الجهد هو بدء الاستكشاف العاجل لكيفية وصول قدرات الذكاء الاصطناعي عبر الصناعة إلى حافة الهاوية، كما تقول الشركة، من قلب ممارسات أمن البرمجيات والدفاع الرقمي الحالية حول العالم.
يقول لوغان جراهام، قائد الفريق الأحمر الحدودي للشركة، لمجلة WIRED: “الرسالة الحقيقية هي أن الأمر لا يتعلق بالعارضة أو بالإنسانية”. “نحن بحاجة إلى الاستعداد الآن لعالم تتوفر فيه هذه القدرات على نطاق واسع في غضون 6 أو 12 أو 24 شهرًا. ستكون أشياء كثيرة مختلفة فيما يتعلق بالأمن. والعديد من الافتراضات التي بنينا عليها نماذج الأمن الحديثة قد تنهار.”
أصبحت النماذج التي طورتها ودربتها شركات متعددة قادرة بشكل متزايد على اكتشاف نقاط الضعف في التعليمات البرمجية واقتراح وسائل التخفيف منها أو استراتيجيات استغلالها. يؤدي هذا إلى إنشاء جيل جديد من لعبة القط والفأر الكلاسيكية للأمن حيث يمكن للأداة أن تساعد المدافعين ولكن يمكنها أيضًا تغذية الجهات الفاعلة السيئة وتسهيل تنفيذ الهجمات التي كانت في السابق مكلفة للغاية أو معقدة بحيث لا تكون عملية.
قال داريو أمودي، الرئيس التنفيذي لشركة Anthropic، يوم الثلاثاء في فيديو إطلاق Project Glasswing: “تعد معاينة Claude Mythos قفزة كبيرة بشكل خاص”. “لم ندربه على وجه التحديد ليكون جيدًا في مجال الإنترنت. لقد قمنا بتدريبه ليكون جيدًا في مجال البرمجة، ولكن كأثر جانبي لكونه جيدًا في مجال البرمجة، فهو جيد أيضًا في مجال الإنترنت”. ويضيف في الفيديو أن “نماذج أكثر قوة ستأتي منا ومن الآخرين. ولذلك نحن بحاجة إلى خطة للرد على ذلك”.
يشير جراهام من Anthropic إلى أنه بالإضافة إلى اكتشاف الثغرات الأمنية – بما في ذلك إنتاج سلاسل هجوم محتملة وإثباتات للمفهوم – فإن Mythos Preview قادر على تطوير برامج استغلال أكثر تقدمًا، واختبار الاختراق، وتقييم أمان نقطة النهاية، والبحث عن التكوينات الخاطئة للنظام، وتقييم ثنائيات البرامج دون الوصول إلى كود المصدر الخاص بها.
في تنفيذ إصدار متدرج من Mythos Preview، بدءًا بمرحلة التعاون في الصناعة، يقول جراهام إن Anthropic سعت إلى الاعتماد على مبادئ الكشف المنسق عن الثغرات الأمنية، وهي عملية منح المطورين الوقت لتصحيح الخلل قبل مناقشته علنًا.
يقول جراهام: “لقد رأينا Mythos Preview ينجز أشياء يمكن لباحث أمني كبير أن يحققها”. “لهذا آثار كبيرة جدًا على كيفية إطلاق مثل هذه القدرات. إذا لم يتم ذلك بعناية، فقد يكون ذلك بمثابة تسريع كبير للمهاجمين.”
اتخذ شركاء مشروع Glasswing، بما في ذلك بعض منافسي Anthropic، أسلوبًا تعاونيًا في تصريحاتهم كجزء من عملية الإطلاق.
وقالت هيذر أدكينز، نائب رئيس جوجل للهندسة الأمنية، في بيان: “يسر Google أن ترى مبادرة الأمن السيبراني عبر الصناعة هذه تجتمع معًا”. “لقد اعتقدنا منذ فترة طويلة أن الذكاء الاصطناعي يطرح تحديات جديدة ويفتح فرصًا جديدة في الدفاع السيبراني.”
