رمز الكمبيوتر الذي أنشأه الذكاء الاصطناعى إن الإشارات إلى الإشارات إلى مكتبات الطرف الثالث غير الموجود ، مما يخلق فرصة ذهبية لهجمات سلسلة التوريد التي تسمم البرامج المشروعة مع حزم خبيثة يمكنها سرقة البيانات ، والخلفية النباتية ، وتنفيذ إجراءات أخرى شائنة ، وبين الأبحاث المنشورة حديثًا.
وجدت الدراسة ، التي استخدمت 16 من النماذج اللغوية الكبيرة المستخدمة على نطاق واسع لإنشاء 576000 عينة رمز ، أن 440،000 من تبعيات الحزمة التي احتوت عليها كانت “هلوسة” ، مما يعني أنها غير موجودة. نماذج مفتوحة المصدر هلوس أكثر ، مع 21 في المائة من التبعيات التي تربط بالمكتبات غير الموجودة. الاعتماد هو مكون رمز أساسي يتطلب جزء منفصل من التعليمات البرمجية العمل بشكل صحيح. تبعيات تنقذ المطورين متاعب إعادة كتابة رمز وهي جزء أساسي من سلسلة توريد البرمجيات الحديثة.
حزمة الهلوسة ذكريات الماضي
تمثل هذه التبعيات غير الموجودة تهديدًا لسلسلة إمداد البرمجيات عن طريق تفاقم ما يسمى هجمات ارتباك التبعية. تعمل هذه الهجمات عن طريق التسبب في حزمة برامج للوصول إلى التبعية الخاطئة للمكون ، على سبيل المثال من خلال نشر حزمة ضارة وإعطائها نفس الاسم مثل الشرعي ولكن مع ختم الإصدار اللاحق. سوف يختار البرامج التي تعتمد على الحزمة ، في بعض الحالات ، النسخة الضارة بدلاً من الإصدار الشرعي لأن الأول يبدو أنه أكثر حداثة.
المعروف أيضًا باسم حزمة الارتباك ، تم عرض هذا الشكل من الهجوم لأول مرة في عام 2021 في استغلال إثبات المفهوم الذي نفذ رمزًا مزيفًا على الشبكات التي تنتمي إلى بعض أكبر الشركات على هذا الكوكب و Microsoft و Tesla. إنه نوع واحد من التقنيات المستخدمة في هجمات سلسلة توريد البرامج ، والتي تهدف إلى تسمم البرامج في مصدرها في محاولة لإصابة جميع المستخدمين في اتجاه مجرى النهر.
“بمجرد نشر المهاجم حزمة تحت الاسم الملموس ، التي تحتوي على بعض الكود الضار ، فإنهم يعتمدون على النموذج الذي يشير إلى هذا الاسم للمستخدمين المطمئنين” ، جوزيف Spracklen ، جامعة تكساس في سان أنطونيو دكتوراه. الطالب والباحث الرئيسي ، أخبر ARS عبر البريد الإلكتروني. “إذا كان المستخدم يثق في إخراج LLM وقم بتثبيت الحزمة دون التحقق من ذلك بعناية ، فسيتم تنفيذ حمولة المهاجم ، المخفية في الحزمة الضارة ، على نظام المستخدم.”
في الذكاء الاصطناعي ، تحدث الهلوسة عندما تنتج LLM مخرجات غير صحيحة في الواقع أو غير منطقية أو غير مرتبطة بالمهمة التي تم تعيينها. لقد تعرضت الهلوسة منذ فترة طويلة إلى تدهور فائدتها وجدارة بالثقة وأثبتت صعوبة في التنبؤ بها والعلاج. في ورقة من المقرر تقديمها في ندوة أمن Usenix لعام 2025 ، أطلقوا على ظاهرة “هلوسة الحزمة”.
بالنسبة للدراسة ، أجرى الباحثون 30 اختبارًا ، و 16 في لغة برمجة Python و 14 في JavaScript ، والتي أنتجت 19200 عينة رمز لكل اختبار ، ليصبح المجموع 576000 عينة رمز. من بين 2.23 مليون مراجع حزمة واردة في تلك العينات ، أشار 440،445 ، أو 19.7 في المائة ، إلى الحزم التي لم تكن موجودة. من بين هذه الهلوسة الحزمة البالغ عددها 440،445 ، كان لدى 205،474 أسماء حزم فريدة.
أحد الأشياء التي تجعل الهلوسة الحزمة قد تكون مفيدة في هجمات سلسلة التوريد هو أن 43 في المائة من الهلوسة تم تكرارها على 10 استعلامات. “بالإضافة إلى ذلك ،” كتب الباحثون ، “58 في المائة من الوقت ، يتم تكرار الحزمة المصنوعة من الهلوس أكثر من مرة واحدة في 10 تكرار ، مما يدل على أن غالبية الهلوسة ليست مجرد أخطاء عشوائية قابلة للتكرار والتي تستمر في التكرار المتعدد.
