أعلنت شركة OpenAI يوم الثلاثاء أن أحد نماذج الذكاء الاصطناعي المتقدمة الخاصة بها اخترق بشكل مستقل البنية التحتية لشركة أخرى في مجال الذكاء الاصطناعي أثناء الاختبار الداخلي فيما وصفته بأنه “حادث سيبراني غير مسبوق”.
وقالت الشركة إن شركة Hugging Face الناشئة للذكاء الاصطناعي اكتشفت الاختراق واحتوته الأسبوع الماضي بعد أن قام أحد عملاء الذكاء الاصطناعي باختراق جزء من بنيتها التحتية. وقالت الشركات إنها تعتقد أن هذه قد تكون أول حالة يتم الكشف عنها علنًا لنموذج ذكاء اصطناعي يقتحم أنظمة شركة أخرى من تلقاء نفسه أثناء تقييم خاضع للرقابة.
وقالت OpenAI إن الاختراق حدث أثناء تقييم داخلي للعديد من نماذجها، بما في ذلك GPT-5.6 Sol.
اعترف سام ألتمان، الرئيس التنفيذي لشركة OpenAI، بالحادثة في منشور على X، وكتب أن الشركة تعرضت “لحادث أمني كبير أثناء تقييم نماذجنا”.
OPENAI تكشف النقاب عن عمل CHTGPT لأتمتة مهام مكان العمل مع تكثيف سباق الذكاء الاصطناعي
وقالت OpenAI في بيان صحفي: “نحن نعتبر هذا الحادث حادثًا إلكترونيًا غير مسبوق، يتضمن أحدث القدرات السيبرانية، ونستجيب وفقًا لذلك”.
وقالت الشركة إنها ستصدر نتائج أولية لمساعدة المتخصصين في مجال الأمن على فهم قدرات نماذج الذكاء الاصطناعي الحالية بشكل أفضل أثناء استمرار التحقيق.
حذرت OpenAI من أن نماذج الذكاء الاصطناعي ذات القدرة المتزايدة تعمل على تسريع اكتشاف واستغلال نقاط الضعف في البرامج.
وقالت الشركة: “الدرس الأساسي المستفاد من هذا الحادث هو أن نموذج الأمن والسلامة يجب أن يواكب القدرات المتطورة بسرعة”. “نحن نعمل على تعزيز ممارسات الاحتواء والمراقبة وضوابط الوصول والتقييم المستخدمة أثناء تطوير النموذج.”
تتهم شركة Apple OPENAI بإخبار المجندين بإحضار نماذج Apple الأولية إلى المقابلات
كما تناول المؤسس المشارك والرئيس التنفيذي لشركة Hugging Face، كليم ديلانج، الحادثة في منشور على موقع X.
“لقد اشتبهنا في أن الهجوم الإلكتروني الذي وقع الأسبوع الماضي ربما جاء من مختبر حدودي، نظرًا لتطور العميل. وتبين أنه حدث بالفعل!” كتب ديلانج.
وتابع: “لقد أمضينا الـ 24 ساعة الماضية في العمل بشكل وثيق مع فريقOpenAI (شكرًا!)، ونعتقد بشدة أنه لم تكن هناك نية خبيثة من جانبهم”. “إنه لأمر مدهش للغاية أن كل هذا حدث بشكل مستقل! التحقيق مستمر، وسنشارك المزيد من الدروس المستفادة مما قد يكون الحادث الأول من نوعه!”
جراح جونز هوبكنز يسلط الضوء على اختراق الذكاء الاصطناعي الذي يمكنه اكتشاف سرطان البنكرياس قبل الأطباء
وفقًا لشركة OpenAI، وقع الحادث أثناء تقييم داخلي مصمم لقياس القدرات السيبرانية المتقدمة لنماذج الذكاء الاصطناعي الخاصة بها. قام الباحثون بتعطيل بعض ضمانات السلامة المضمنة وقاموا بتشغيل النماذج في بيئة اختبار معزولة مع وصول محدود إلى الإنترنت.
وقالت OpenAI إن العارضات استغلن ثغرة برمجية غير معروفة للوصول إلى الإنترنت، ثم اخترقن أنظمة Hugging Face في محاولة واضحة للعثور على إجابات لمعيار الأمن السيبراني.
اكتشف فريق الأمان في OpenAI النشاط غير المعتاد بينما قام Hugging Face بشكل مستقل بتحديد التسلل واحتوائه.
انقر هنا لتنزيل تطبيق FOX NEWS
بعد الحادث، قالت OpenAI إنها تنفذ ضوابط أمنية أكثر صرامة بينما يتم تصحيح نقاط الضعف وتعزيز الضمانات حول التدريب والتقييمات المستقبلية للذكاء الاصطناعي.
