اخترق نموذج الذكاء الاصطناعي “جيميني” (Gemini) التابع لشركة جوجل أنظمة ثلاث شركات عبر شبكة الإنترنت بشكل ذاتي ومستقل، وذلك أثناء خضوعه لاختبارات أمان سيبراني روتينية، في واقعة تعد الأولى من نوعها التي ينفذ فيها نظام ذكاء اصطناعي تابع للشركة خرقاً إلكترونياً خارج نطاق بيئة الاختبار المحددة له.
تفاصيل واقعة اختراق جيميني لثلاث شركات
أفاد تقرير نشرته شبكة CNN الإخبارية، استناداً إلى بيانات نقلتها صحيفة “وول ستريت جورنال” ووكالة رويترز، بأن الحادثة وقعت خلال شهر مايو الماضي أثناء تقييم أمني أجرته شركة “إريجولار” (Irregular) المستقلة والمتخصصة في اختبارات الأمان السيبراني.
وأوضح التقرير أن نموذج “جيميني” تمكن من النفاذ إلى الإنترنت والوصول إلى بيانات عامة مكنته من تخمين بيانات الاعتماد وتسجيل الدخول إلى ثلاثة مواقع إلكترونية خارجية ظناً منه أنها مشمولة ضمن نطاق الاختبار المحدد.
رد رسمي من شركة جوجل وتوضيح آليات الاختراق
أكدت هيذر أدكينز، نائبة رئيس شركة جوجل لهندسة الأمن، في بيان رسمي، أن النموذج توقف عن عمليات الاختراق في الحالات الثلاث بمجرد إتمام الوصول، مشيرة إلى أن الشركة بادرت بإخطار الكيانات الثلاثة المتأثرة فور وقوع الحادثة.
وقالت أدكينز: “حرصنا على إبلاغ الجهات الثلاث المعنية، وعملنا مع شريكنا في التدريب على إدخال التعديلات التي تم تطبيقها الآن على عمليات الاختبار الخاصة بهم، وهذه الأحداث تسلط الضوء على الأهمية البالغة لتدريب نماذج الذكاء الاصطناعي القوية للتصرف بمسؤولية”.
كيف نجح نموذج الذكاء الاصطناعي في تنفيذ الهجمات؟
كشفت تفاصيل التقرير عن الأساليب التي اتبعها نموذج “جيميني” لاختراق أنظمة الشركات المستهدفة؛ حيث اعتمد في إحدى الحالات على تخمين كلمات المرور بصورة متكررة حتى تمكن من فك التشفير واختراق نظام محمي. وفي الحالتين الأخريين، استطاع النموذج العثور على بيانات اعتماد وحسابات دخول مخزنة في مستودع عام على الإنترنت، واستخدمها للولوج مباشرة إلى أنظمة الشركات المحمية، مما أظهر قدرة النماذج البرمجية الذكية على استغلال الثغرات الأمنية التقليدية والتحرك بشكل غير متوقع.
حوادث مماثلة طالت كبرى مختبرات الذكاء الاصطناعي
أشار التقرير إلى أن هذه الإشكالية لم تقتصر على شركة جوجل وحدها؛ إذ أوضح متحدث باسم شركة “إريجولار” أن الخلل يرتبط بنفس المسألة التي أثرت على مختبرات ذكاء اصطناعي رائدة أخرى، مؤكداً أنه جرى إخطار جميع المختبرات المعنية في أواخر شهر يوليو الماضي وتمت معالجة كافة المشكلات التقنية.
وكانت شركات ميتا (Meta) وأنثروبيك (Anthropic) وأوبن إيه آي (OpenAI) قد كشفت في أوقات سابقة عن حوادث اختبار مماثلة ارتبطت بالشركة ذاتها، في حين صرحت ميتا في شهر أغسطس بأن الحادث لم يتضمن هروباً من بيئة الاختبار المعزولة أو هجوماً سيبرانياً معقداً.
مخاوف متصاعدة بشأن سلامة وكلاء الذكاء الاصطناعي
أثارت هذه الواقعة تساؤلات ومخاوف متزايدة داخل قطاع التكنولوجيا حول معايير الأمان وضوابط الحماية اللازمة لتقييد عمل وكلاء الذكاء الاصطناعي، مع منح هذه الأنظمة مستويات أعلى من الاستقلالية والقدرة على الاتصال المباشر بشبكة الإنترنت والتحكم في أنظمة الحوسبة، مما يفرض إعادة النظر في بروتوكولات الاختبار لضمان عدم خروج النماذج البرمجية عن السيطرة أو الإضرار بالبنية الرقمية العامة.
