بضعة أسابيع منذ ذلك الحين ، شاهدت فريقًا صغيرًا من وكلاء الذكاء الاصطناعي يقضون ما يقرب من 10 دقائق في محاولة اختراق موقع الويب الخاص بي الجديد المشفر.
عملاء الذكاء الاصطناعى ، الذي تم تطويره بواسطة بدء تشغيل Runsybil ، يعملون معًا للتحقيق في موقعي السيئ لتحديد البقع الضعيفة. يشرف وكيل Orchestrator ، يسمى Sybil ، على العديد من الوكلاء المتخصصين جميعهم مدعوم من مجموعة من نماذج اللغة المخصصة وواجهة برمجة التطبيقات على الرف.
في حين أن ماسحات الضواحي التقليدية للمشاكل المعروفة المحددة ، فإن Sybil قادر على العمل على مستوى أعلى ، باستخدام الحدس الاصطناعي لمعرفة نقاط الضعف. قد يكون ، على سبيل المثال ، العمل على أن مستخدم الضيف لديه وصول متميز – وهو أمر قد يفتقده الماسح الضوئي العادي – ويستخدم هذا لبناء هجوم.
يقول أرييل هربرت فوس ، الرئيس التنفيذي والمؤسس في Runsybil ، إنه من المحتمل أن تحدث نماذج الذكاء الاصطناعى المتزايدة من الذكاء الاصطناعي الأمن السيبراني الهجومي والدفاعي. أخبرني هربرت فوس: “أود أن أزعم أننا بالتأكيد على أعتاب انفجار تقني من حيث القدرات التي يمكن لكل من الممثلين السيئين والجيدين الاستفادة منها”. “مهمتنا هي بناء الجيل القادم من الاختبارات الأمنية الهجومية لمجرد مساعدة الجميع على مواكبة”.
كان موقع الويب الذي استهدفه Sybil قد أنشأته مؤخرًا باستخدام Claude Code لمساعدتي في الفرز من خلال أوراق بحثية جديدة من الذكاء الاصطناعي. يتكون الموقع ، الذي أسميه Arxiv tlurper من خادم خلفي يصل إلى Arxiv – حيث يتم نشر معظم أبحاث الذكاء الاصطناعى – إلى جانب بعض الموارد الأخرى ، تمشيطًا من خلال ملخصات الورق لكلمات مثل “الرواية” ، “أولاً” ، “من المدهش” ، كما أن هناك بعض المصطلحات الفنية التي أنا مهتم بها.
هناك مشكلة رئيسية في هذا النوع من المواقع المشفرة في الأناقة ، ومع ذلك ، فهي أنه من الصعب معرفة أنواع نقاط الضعف الأمنية التي قد تكون قد قدمتها. لذلك عندما تحدثت إلى Herbert-Voss عن Sybil ، قررت أن أسأل عما إذا كان بإمكانه اختبار موقعي الجديد للحصول على نقاط الضعف. لحسن الحظ ، وفقط لأن موقعي أساسي للغاية ، لم يجد Sybil أي نقاط ضعف.
يقول Herbert-Voss إن معظم نقاط الضعف تميل إلى أن تكون نتيجة وظائف أكثر تعقيدًا مثل النماذج والمكونات الإضافية وميزات التشفير. لقد شاهدنا كموظفين أنفسهم حاولوا البحث عن موقع ويب وهمية للتجارة الإلكترونية مع نقاط الضعف المعروفة التي يملكها Herbert-Voss. قام Sybil ببناء خريطة للتطبيق وكيفية الوصول إليه ، والتحقيق في البقع الضعيفة من خلال معالجة المعلمات واختبار حالات حافة الحافة ، ومن ثم التسلسل معا ، واختبار الفرضيات ، والتصعيد حتى يكسر شيء ذي معنى. في هذه الحالة ، حددت طرق اختراق الموقع. على عكس الإنسان ، يقول هربرت فوس إن سيبيل يدير الآلاف من هذه العمليات بالتوازي ، ولا يفوت التفاصيل ، ولا يتوقف. يقول: “والنتيجة هي شيء يتصرف مثل المهاجم المتمرس ولكنه يعمل بدقة الجهاز وحجمه”.
يقول لوجو باور ، عالم الكمبيوتر بجامعة كارنيجي ميلون (CMU) المتخصصة في AI وأمن الكمبيوتر: “يعد اختبار القلم الذي يعمل بمواد الذكاء الاصطناعى اتجاهًا واعداً يمكن أن يكون له فوائد كبيرة للأنظمة الدفاع”. قام باور مؤخرًا بتأليف دراسة مع آخرين من CMU وباحث من شركة AI Hothropic يستكشف وعد اختبار اختراق الذكاء الاصطناعي. وجد الباحثون أن النماذج التجارية الأكثر تقدماً لم تتمكن من أداء هجمات الشبكة ولكنها طورت نظامًا يحدد أهدافًا عالية المستوى مثل مسح شبكة أو إصابة مضيف ، مما مكنها من إجراء اختبارات الاختراق.
