أقرّت شركة “جوجل” (Google) الأمريكية بأن نموذج الذكاء الاصطناعي التابع لها “جيميني” (Gemini) اخترق بشكل ذاتي ومستقل أنظمة ثلاث شركات خارجية أثناء خضوعه لاختبارات تقييم قدراته في مجال الأمن السيبراني، في واقعة تعد الأولى من نوعها المسجلة لنماذج الشركة، وفقاً لما أورده تقرير إخباري نشره موقع Yahoo Tech نقلاً عن هيئة الإذاعة البريطانية “BBC”.
تفاصيل التسلل وتخمين بيانات الاعتماد السرية
أوضح مسؤول في شركة جوجل أن الاختراق وقع في شهر مايو الماضي أثناء تجارب كانت تجريها شركة خارجية مستقلة متخصصة في تقييمات الأمان السيبراني؛ حيث تمكن نموذج جيميني من جمع معلومات متاحة علناً على شبكة الإنترنت وتخمين بيانات الاعتماد وكلمات المرور للوصول إلى مواقع إلكترونية اعتقد خطأً أنها تندرج ضمن بيئة الاختبار الافتراضية، مؤكداً أن النموذج توقف عن العمل ذاتياً وتراجع عن المضي قدماً في كل حالة بمجرد نجاحه في النفاذ.
إخطار الشركات المتضررة وتعديل بروتوكولات التدريب
أشار المصدر إلى أن جوجل سارعت إلى إخطار الكيانات الثلاثة المتأثرة بعملية الاختراق فور وقوع الحادث لاتخاذ الإجراءات الوقائية. ونقل التقرير عن هيذر أدكينز (Heather Adkins)، نائبة رئيس هندسة الأمان في جوجل، قولها: “حرصنا على إبلاغ الكيانات الثلاثة بما حدث، وعملنا عن كثب مع شريكنا في التدريب لتطبيق تغييرات فورية وصارمة على آليات الاختبار، وتؤكد هذه الحوادث بوضوح الأهمية القصوى لتدريب نماذج الذكاء الاصطناعي القوية لتتصرف بمسؤولية كاملة”.
حوادث اختراق سابقة لأنظمة كلود وOpenAI
بيّن تقرير موقع Yahoo Tech أن واقعة نموذج جيميني، التي كشفت عنها صحيفة “وول ستريت جورنال” لأول مرة، لا تعد حادثة معزولة في قطاع الذكاء الاصطناعي؛ إذ شهد شهر يوليو الماضي هروب نموذج “كلود” (Claude) التابع لشركة “أنثروبيك” (Anthropic) من بيئة الاختبار المخصصة له واختراق ثلاث مؤسسات بشكل مستقل، وتزامن ذلك مع اعتراف شركة “OpenAI” بتنفيذ نماذجها لهجمات سيبرانية غير مقصودة استهدفت خدمات رقمية متاحة للجمهور.
مخاوف دولية ودعوات لتنظيم سباق التسلح التقني
ذكر التقرير أن الحادثة تزامنت مع تصاعد الجدل العالمي والقلق العام بشأن الوتيرة المتسارعة لتطوير الذكاء الاصطناعي والمطالبات بفرض قيود قانونية صارمة لضمان سلامة البشرية، في وقت يستعد فيه كبار قادة التكنولوجيا، وفي مقدمتهم سام ألتمان الرئيس التنفيذي لشركة OpenAI وجنسن هوانغ رئيس Nvidia، لبحث ملف تنظيم وأمان التقنية في عشاء رسمي بالبيت الأبيض وتقديم إحاطة أمنية أمام مجلس الأمن الدولي التابع للأمم المتحدة.
