أحدث توليد نماذج الذكاء الاصطناعى ليست فقط chatbots المدرجة في النصوص المستقلة-بدلا من ذلك ، يمكن توصيلها بسهولة ببياناتك لإعطاء إجابات مخصصة لأسئلتك. يمكن ربط chatgpt من Openai بجهاز البريد الوارد الخاص بك ، أو السماح له بتفتيش رمز github الخاص بك ، أو العثور على مواعيد في تقويم Microsoft الخاص بك. لكن هذه الروابط لديها القدرة على الاعتداء – وقد أظهر الباحثون أن الأمر قد يستغرق مجرد وثيقة “مسممة” واحدة للقيام بذلك.
كشفت النتائج الجديدة من الباحثين الأمنية مايكل بارجوري وتامير إيشاي شاربات ، في مؤتمر Black Hat Hacker في لاس فيجاس اليوم ، كيف سمحت ضعف الموصلات في Openai باستخراج معلومات حساسة من حساب Google Drive باستخدام هجوم الحقن غير المباشر. في مظاهرة للهجوم ، يوضح Bargury المسمى AgentFlayer ، كيف كان من الممكن استخراج أسرار المطورين ، في شكل مفاتيح API ، التي تم تخزينها في حساب محرك مظاهرة.
يسلط الضعف الضوء على كيفية توصيل نماذج الذكاء الاصطناعى بالأنظمة الخارجية ومشاركة المزيد من البيانات عبرها إلى زيادة سطح الهجوم المحتمل للمتسللين الضارين وربما يضاعف الطرق التي يمكن بها تقديم الثغرات الأمنية.
“لا يوجد شيء يحتاج المستخدم إلى القيام به للتراجع ، ولا يوجد شيء يحتاج المستخدم إلى القيام به حتى يتم الخروج من البيانات” ، كما يقول Bargury ، CTO في شركة الأمن Zenity ، لـ Wired. يقول بارجوري: “لقد أظهرنا أن هذا هو النقر صفراً تمامًا ؛ نحن فقط بحاجة إلى بريدك الإلكتروني ، ونشاركك في المستند معك ، وهذا كل شيء. لذا نعم ، هذا سيء للغاية”.
لم يرد Openai على الفور على طلب Wired للتعليق على الضعف في الموصلات. قدمت الشركة موصلات لـ ChatGPT كميزة تجريبية في وقت سابق من هذا العام ، ويسرد موقع الويب الخاص بها 17 خدمة مختلفة على الأقل يمكن ربطها بحساباتها. تقول إن النظام يسمح لك “بإحضار أدواتك وبياناتك إلى ChatGPT” و “ملفات البحث ، وسحب البيانات المباشرة ، والمحتوى المرجعي في الدردشة مباشرة.”
يقول Bargury إنه أبلغ عن النتائج التي توصلت إليها Openai في وقت سابق من هذا العام وأن الشركة قدمت بسرعة تخفيفًا لمنع التقنية التي استخدمها لاستخراج البيانات عبر الموصلات. إن الطريقة التي يعمل بها الهجوم تعني فقط استخراج كمية محدودة من البيانات في وقت واحد – لا يمكن إزالة المستندات المليئة كجزء من الهجوم.
يقول Andy Wen ، مدير إدارة منتجات الأمان في Google Workspace ، مشيرًا إلى تدابير أمان الذكاء الاصطناعى التي تم تعزيزها مؤخرًا: “على الرغم من أن هذه المشكلة ليست خاصة بـ Google ، إلا أنها توضح سبب أهمية تطوير الحماية القوية ضد هجمات الحقن الفوري”.
