قال الأنثروبي هذا الأسبوع الذي يمثل فيه ظهور نموذج Claude Mythos Preview الجديد منعطفًا حاسمًا في تطور الأمن السيبراني، مما يمثل تهديدًا وجوديًا غير مسبوق لاستراتيجيات الدفاع عن البرامج الحالية. إذًا، هل هذا مجرد ضجيج حول الذكاء الاصطناعي أم أنه نقطة تحول حقيقية؟
وفقًا لـ Anthropic، فإن Mythos Preview يتجاوز عتبة القدرات لاكتشاف نقاط الضعف في أي نظام تشغيل أو متصفح أو أي منتج برمجي آخر تقريبًا، وتطوير عمليات استغلال الاختراق بشكل مستقل. مع أخذ هذا في الاعتبار، تقوم الشركة بإصدار النموذج الجديد فقط إلى بضع عشرات من المؤسسات في الوقت الحالي – بما في ذلك Microsoft وApple وGoogle وLinux Foundation – كجزء من اتحاد يطلق عليه اسم Project Glasswing. ولكن بعد سنوات من التكهنات حول كيفية تأثير الذكاء الاصطناعي التوليدي على الأمن السيبراني، أثارت الأخبار هذا الأسبوع جدلاً حول ما إذا كان الحساب قد وصل بالفعل وكيف قد يبدو في الممارسة العملية.
البعض متشكك للغاية في ادعاءات الأنثروبيك. ويجادلون بأن وكلاء الذكاء الاصطناعي الحاليين يمكنهم بالفعل مساعدة المستخدمين في العثور على نقاط الضعف واستغلالها بسهولة أكبر وبتكلفة أقل من أي وقت مضى، وأن هذا الواقع يغذي التحسينات في كيفية اكتشاف الشركات لبرامجها وتصحيحها دون تغيير النموذج بشكل أساسي. ومن ثم هناك العامل السيئ الذي يكاد يكون من المؤكد أن شركة Anthropic ستستفيد ماليًا من وضع أحدث طراز لها على أنه غامض وقوي بشكل فريد وحصري. ومع ذلك، يقول باحثون وممارسون آخرون إنهم يتفقون مع تقييم Anthropic ويشيرون إلى أن الشركة قالت إن Mythos Preview هو أول من حقق القدرات التي ستكون متاحة على نطاق واسع في النهاية في نماذج أخرى.
يقول أليكس زينلا، كبير مسؤولي التكنولوجيا في شركة Edera للأمن السحابي: “أنا عادةً متشكك جدًا في هذه الأشياء، ويميل مجتمع المصادر المفتوحة إلى أن يكون متشككًا للغاية، لكنني أشعر بشكل أساسي أن هذا يمثل تهديدًا حقيقيًا”.
يشير Zenla وآخرون على وجه التحديد إلى إمكانية Mythos Preview واحدة باعتبارها النقطة المحورية. ويقولون إن الذكاء الاصطناعي التوليدي أصبح الآن أكثر قدرة على تحديد وتطوير ما يعرف باسم “سلاسل الاستغلال”، أو مجموعات من نقاط الضعف التي يمكن استغلالها بالتسلسل لاختراق الهدف بشكل عميق – بشكل أساسي قرصنة روب غولدبرغ على غرار الآلة. تستخدم العديد من تقنيات القرصنة الأكثر تطورًا سلاسل الاستغلال، بما في ذلك ما يسمى بهجمات النقر الصفري التي تعرض النظام للخطر دون الحاجة إلى أي تفاعل من المستخدم.
“نحن نعيش بالفعل في عالم حيث تقوم الشركات بتشغيل برامج ضعيفة، وأجهزة ضعيفة، وتكافح من أجل التصحيح. العديد من الشركات غير قادرة على تأمين البنية التحتية الخاصة بها – وهذا لم يتغير حقًا من الأمس إلى اليوم،” يقول مهندس الأمن والباحث منذ فترة طويلة نيلز بروفوس. “ولكن مما أفهمه، فإن Mythos جيد حقًا في اكتشاف ثغرات متعددة المراحل، ثم يقدم أيضًا دليلاً على الاستغلال. لا أعتقد أنه يغير مساحة المشكلة بشكل جوهري، ولكنه يغير مستوى المهارة المطلوبة للعثور على نقاط الضعف هذه واستغلالها.”
يمنح الإصدار المحدود من Mythos Preview للمشاركين في مشروع Glasswing للمدافعين مهلة زمنية صغيرة فقط للعثور على نقاط الضعف في أنظمتهم الخاصة باستخدام النموذج والبدء في التعامل على نطاق أوسع مع كيفية تغيير تطوير البرامج ودورات التحديث واعتماد التصحيح قبل أن يتمكن المهاجمون من الوصول على نطاق واسع إلى هذه القدرات بأنفسهم.
ويبدو أن قادة الصناعة يستجيبون لهذا التحذير. صرح لوجان جراهام، قائد الفريق الأحمر الحدودي في أنثروبيك، لـ WIRED يوم الثلاثاء أنه مع تواصل الشركة مع المنظمات حول مشروع Glasswing قبل إعلان هذا الأسبوع، أصبحت المكالمات الهاتفية أقصر فأقصر لأن التهديد المحتمل أصبح أكثر وضوحًا.
وقال جراهام: “هذه مشكلة تشمل جميع مطوري النماذج. هدفنا هنا هو مجرد بدء الأمور”. “من المهم حقًا أن تصبح Mythos Preview في أيدي المدافعين لتمنحهم بداية قوية.”
