تم الكشف عن OpenAI في يوم الثلاثاء، فقدت السيطرة على نموذجين للذكاء الاصطناعي أثناء اختبار أمني انتهى باختراق منصة أبحاث الذكاء الاصطناعي المفتوحة Hugging Face.
ووصفت OpenAI الحادث بأنه “غير مسبوق”، وقالت إن نماذج الذكاء الاصطناعي الخاصة بها خرجت من بيئة اختبار مغلقة الأسبوع الماضي واخترقت نظام إنتاج Hugging Face لسرقة إجابات الاختبار الذي تم تقييمهم عليه. تم تقييم النماذج – GPT-5.6 Sol المتاحة للجمهور والنموذج الذي لم يتم إصداره والذي يقال إنه أكثر قدرة – على مهارات القرصنة الهجومية الخاصة بهم مع إيقاف تشغيل الضمانات التي تمنع عادةً الأنشطة السيبرانية عالية المخاطر.
“لقد حددت النماذج وربطت نقاط الضعف عبر بيئة بحث OpenAI والبنية التحتية لإنتاج Hugging Face للحصول على حلول اختبار مباشرة من قاعدة بيانات إنتاج Hugging Face،” كتب OpenAI وHugging Face في منشور مدونة مشترك يكشف عن الاختراق.
وفقًا لـ OpenAI وHugging Face، هربت النماذج من خلال وكيل ذاكرة التخزين المؤقت لسجل الحزمة، وهو برنامج يسمح للمطورين بتثبيت تعليمات برمجية خارجية دون الاتصال بالإنترنت. كان الوكيل هو العنصر الوحيد في بيئة الاختبار المعزولة لـ OpenAI المسموح له بالوصول إلى العالم الخارجي؛ في الاستخدام العادي يمتد نطاقه فقط إلى مستودعات التعليمات البرمجية العامة.
وبدلاً من البقاء محصورين في صندوق الحماية، “استغلت النماذج ثغرة يوم الصفر” للوصول إلى الإنترنت المفتوح حيث “ركزت بشكل مفرط” على إيجاد حل لمعيار الأمن السيبراني للذكاء الاصطناعي المعروف باسم ExploitGym. تتضمن مثل هذه التجارب التحفيز الذي يضغط على النماذج لإيجاد الحلول، وهو ما يحفزها بشكل أساسي.
كتب OpenAI: “بعد الوصول إلى الإنترنت، استنتجت النماذج أن Hugging Face من المحتمل أن تستضيف نماذج ومجموعات بيانات وحلول لـ ExploitGym”. “مع العلم بذلك، بحث النموذج عن طرق ونجح في العثور عليها للوصول إلى المعلومات السرية التي يمكن استخدامها لغش التقييم. في أحد الأمثلة، قام النموذج بربط نواقل هجوم متعددة معًا، بما في ذلك استخدام بيانات الاعتماد المسروقة ويوم الصفر.”
ولم يكن الخلل الذي استغلته النماذج معروفًا من قبل، لكن العيوب في هذا النوع من البرامج ليست غير عادية. تعمل الشركات على تصحيح نقاط الضعف الخطيرة في مستودعات القطع الأثرية منذ عقد من الزمن. تم الكشف عن خطأ في عام 2024 يسمح لأي شخص يمكنه الوصول إلى الخادم بطلب ملف عن طريق عنوان URL والحصول عليه – ملفات التكوينات وكلمات المرور ورموز الوصول – دون تسجيل الدخول. وقد سمح آخرون للمهاجمين بالتحكم في الخادم نفسه.
يشير الباحثون إلى أنه على الرغم من أن تقدم الذكاء الاصطناعي خلق تحديات جديدة وغير متوقعة في بعض الأحيان، إلا أن مهمة عزل البنية التحتية على نطاق واسع وصارم عن الإنترنت المفتوح قد تم استكشافها جيدًا.
يقول مستشار الأمن والامتثال منذ فترة طويلة، ديفي أوتنهايمر: “هذه ليست مشكلة تتعلق بالذكاء الاصطناعي. إنها إهمال وفقًا لمعايير عمرها 40 عامًا، وهي في الأساس حالة كل أفلام الخيال العلمي على الإطلاق”. “”العزلة الشديدة” و”الهرب عبر الحفرة الوحيدة التي تركناها مفتوحة” لا يمكن أن يكونا صحيحين”.
في الأشهر الأخيرة، أثارت شركات الذكاء الاصطناعي الكبرى مخاوف بشأن توسيع قدرات الأمن السيبراني للنماذج الحدودية القادمة مع زيادة المنصات في كل من الخبرة والإبداع والتشغيل المستقل. لكن الباحثين يؤكدون أن هذا هو السبب الأكبر الذي يجعل الأساسيات لا تزال سارية.
يقول المهندس الأمني المخضرم والباحث نيلز بروفوس: “ما كان ينبغي أن يحدث هذا”. “أتمنى أن تنفق المختبرات الحدودية الكثير من الوقت في تعليم نماذجها لكتابة بنية تحتية آمنة بقدر ما تنفقه عليها في استغلال نقاط الضعف.”
