يراقب البيت الأبيض حادثة كشفت عنها شركة OpenAI، حيث انحرف أحد نماذج الذكاء الاصطناعي الخاصة بالشركة أثناء الاختبار واخترق نظام شركة ناشئة للبنية التحتية للذكاء الاصطناعي.
قالت الشركة المصنعة لـ ChatGPT يوم الثلاثاء إن أحد عملاء الذكاء الاصطناعي التابع لها نجا من الاحتواء أثناء اختبار أمني وأدى إلى اختراق أدى إلى اختراق البنية التحتية لشركة Hugging Face، التي تدير منصة للمطورين للتعاون في التعليمات البرمجية لنماذج الذكاء الاصطناعي.
أظهر الحادث القدرات المتزايدة لنماذج الذكاء الاصطناعي لتجاوز حواجز الحماية الخاصة بها وخلق تهديدات للأمن السيبراني.
وقال مسؤول بالبيت الأبيض لرويترز إن مايكل كراتسيوس، الذي يشغل منصب مدير مكتب البيت الأبيض لسياسة العلوم والتكنولوجيا والمستشار العلمي للرئيس، تم إطلاعه على الحادث ويراقب الوضع.
منظمة أنثروبيك تدعو إلى وضع معايير سلامة للذكاء الاصطناعي على مستوى الصناعة لمنع النماذج من إحداث الفوضى
وقالت OpenAI إن الحادث وقع أثناء تقييم داخلي مصمم لقياس القدرات السيبرانية المتقدمة لنماذج الذكاء الاصطناعي الخاصة بها.
قام الباحثون بتعطيل بعض ضمانات السلامة المضمنة وقاموا بتشغيل النماذج في بيئة اختبار معزولة مع وصول محدود إلى الإنترنت.
وأوضحت الشركة أن العارضات استغلن ثغرة برمجية غير معروفة للوصول إلى الإنترنت، ثم اخترقن أنظمة Hugging Face في محاولة واضحة للغش في تقييم الأمن السيبراني الذي كانت تخضع له.
OPENAI تقول إن نموذج الذكاء الاصطناعي اخترق أنظمة شركة أخرى أثناء الاختبار الداخلي
اكتشف فريق OpenAI النشاط الشاذ داخليًا، بينما اكتشف فريق Hugging Face الأمني النشاط وأوقفه. بدأت Hugging Face بالفعل في الاحتواء وإعادة البناء الشرعي باستخدام نماذجها الخاصة عندما تواصل فريق OpenAI معهم.
قال Sam Altman، الرئيس التنفيذي لشركة OpenAI، يوم الثلاثاء في منشور على X “لقد تعرضنا لحادث أمني كبير أثناء تقييم نماذجنا”، مضيفًا أن الشركة كانت تشارك ما تعلمته حتى الآن وتقدر شراكة Hugging Face بشأن هذه المشكلة.
جوجل تطلق دراسة عالمية لملايين من محادثات الذكاء الاصطناعي لفهم كيفية استخدام الأشخاص للذكاء الاصطناعي
قال كليم ديلانج، المؤسس المشارك والرئيس التنفيذي لشركة Hugging Face: “نحن ممتنون للتعاون مع OpenAI في هذا الموضوع وغيره من المواضيع”. “هذه الحادثة، ربما الأولى من نوعها، تثبت نقطة كنا نؤمن بها منذ فترة طويلة: لن يتم حل مشكلة سلامة الذكاء الاصطناعي من قبل أي شركة واحدة تعمل سراً. سيتم حلها في العلن، بالتعاون، مع وصول واسع النطاق إلى الذكاء الاصطناعي لكل مدافع، في كل مكان.”
أضاف Delangue في منشور على X أن Hugging Face يعتقد بقوة أنه لم تكن هناك نية خبيثة من جانب OpenAI، وقال إنه “من المثير للدهشة أن كل هذا حدث بشكل مستقل”.
احصل على FOX Business أثناء التنقل بالنقر هنا
ساهم مايكل سينكويتش من FOX Business ورويترز في إعداد هذا التقرير.
