تنفق شركة OpenAI، أكثر من 500 ألف دولار يوميا للتحقيق في الأنشطة التي نفذها وكلاؤها للذكاء الاصطناعي عبر الإنترنت، في عملية مراجعة ضخمة تشمل نحو 50 بيتابايت من البيانات المرتبطة بتحركات هذه الأنظمة.
وبحسب صحيفة “ذا جارديان” البريطانية، فإن حجم البيانات التي تراجعها الشركة هائل إلى درجة أنه لو كانت جميعها نصوصا باللغة الإنجليزية، لاحتاج شخص واحد إلى نحو 66 مليون عام لقراءتها بالكامل، بمعدل 240 كلمة في الدقيقة ومن دون توقف.
وبدأت OpenAI هذه المراجعة بعد سلسلة من الحوادث المرتبطة بوكلائها للذكاء الاصطناعي، من بينها حادثة استهدفت منصة Hugging Face، إلى جانب نشاط غير مصرح به طال مواقع حكومية في أستراليا.
وأخطرت الشركة منذ ذلك الحين أكثر من 100 مؤسسة بشأن أنشطة مرتبطة بأنظمة الذكاء الاصطناعي التابعة لها، مع تأكيدها أن تلقي الإخطار لا يعني بالضرورة الوصول إلى معلومات خاصة أو اختراق أحد الأنظمة.
OpenAI تستخدم الذكاء الاصطناعي للتحقيق في الذكاء الاصطناعي
قالت OpenAI في منشور على مدونتها إنها تراجع السجلات شهرا بعد شهر، بحثا عن أنشطة محتملة لم تكن مقصودة، بما يتجاوز الحالات التي اكتشفتها بالفعل.
وتركز المراجعة على رصد الحالات التي تمكنت فيها النماذج من الوصول إلى مواقع إلكترونية أو تعديلها، أو التفاعل مع كلمات المرور وواجهات برمجة التطبيقات APIs وغيرها من بيانات الاعتماد الحساسة.
وتغطي العملية نحو 50 بيتابايت من المعلومات، أي ما يعادل قرابة 50 مليون جيجابايت، وتستخدم OpenAI أدوات الذكاء الاصطناعي للمساعدة في تحليل هذا الكم الهائل من البيانات، فيما تتجاوز تكلفة التحقيق حاليا 500 ألف دولار يوميا.
وتعتزم الشركة أيضا زيادة قدرتها الحوسبية مع تطوير آلية المراجعة وتحسينها.
وقالت OpenAI، في توضيح لحجم البيانات، إن قراءتها بالكامل كنصوص إنجليزية ستستغرق من شخص واحد نحو 66 مليون عام، بمعدل 240 كلمة في الدقيقة، إذا واصل القراءة دون نوم أو توقف.
وحذرت الشركة من أن التحقيق لا يزال مستمرا، ما يعني احتمال إخطار المزيد من المؤسسات بشأن حوادث وقعت قبل أشهر.
لماذا تحقق OpenAI في أنشطة وكلائها؟
تأتي المراجعة بعد عدة حوادث نفذ فيها وكلاء OpenAI إجراءات لم تكن مقصودة، ووفقا لما ذكرته وكالة “رويترز”، وصفت الشركة بعض هذه الوقائع بأنها حالات استخدمت فيها النماذج إمكانية الوصول إلى الإنترنت بطرق غير مقصودة، أو لم تكن خاضعة للقيود المناسبة.
وأكدت OpenAI أنها بدأت تطبيق إجراءات تقنية وتشغيلية جديدة لمنع تكرار هذه الحوادث أو اكتشافها في مراحل مبكرة.
وتظل حادثة Hugging Face، بحسب الشركة، أخطر واقعة مرتبطة بوكلائها غير المنضبطين حتى الآن.
وكانت OpenAI قد أوضحت سابقا أن استكمال التحقيق الموسع قد يستغرق عدة أشهر بسبب الحجم الهائل للبيانات التي يجري تحليلها.
وشمل الكشف الأخير أيضا حادثة مرتبطة بموقع حكومي أسترالي، إذ قالت OpenAI إن وكلاءها تمكنوا دون تصريح من الوصول إلى بيانات تاريخية غير متاحة للعامة تتعلق بحرائق الغابات، كانت محفوظة على موقع تابع لحكومة ولاية نيو ساوث ويلز.
واكتشفت الشركة النشاط يوم الثلاثاء، ثم أبلغت حكومة الولاية والمديرية الأسترالية للإشارات ASD بعد إجراء مراجعة استمرت 48 ساعة.
وتزيد هذه الحوادث المخاوف بشأن كيفية تصرف وكلاء الذكاء الاصطناعي عندما يمنحون القدرة على تصفح المواقع الإلكترونية، واستخدام البرمجيات، وتنفيذ إجراءات نيابة عن المستخدمين.
وقالت OpenAI إنها تختار إخطار المؤسسات عندما يكون نشاط نماذجها قد تسبب في كشف ثغرة أمنية محتملة، حتى في الحالات التي لا تكون فيها متأكدة من الوصول إلى معلومات حساسة.
وتتوقع الشركة اكتشاف المزيد من الحالات مع استمرارها في فحص البيانات وتحليل أنشطة وكلائها عبر الإنترنت.
