تماما مثلك ربما لا تنمو وطحن القمح لصنع الدقيق للخبز الخاص بك ، فإن معظم مطوري البرامج لا يكتبون كل سطر من التعليمات البرمجية في مشروع جديد من نقطة الصفر. سيكون القيام بذلك بطيئًا للغاية ويمكن أن يخلق مشكلات أمان أكثر مما يحل. لذا فإن المطورين يعتمدون على المكتبات الحالية – المشاريع المفتوحة المصدر – للحصول على مكونات برامج أساسية مختلفة.
على الرغم من أن هذا النهج فعال ، إلا أنه يمكن أن يخلق التعرض ونقص الرؤية في البرامج. ومع ذلك ، يتم استخدام ظهور ترميز الأجواء بشكل متزايد بطريقة مماثلة ، مما يتيح للمطورين تدوير التعليمات البرمجية بسرعة بحيث يمكنهم ببساطة التكيف بدلاً من الكتابة من نقطة الصفر. على الرغم من ذلك ، يحذر الباحثون الأمنيون من أن هذا النوع الجديد من رمز التوصيل والتشغيل يجعل أمان سلسلة البرامج أكثر تعقيدًا وخطورة.
يقول أليكس زينلا ، كبير مسؤولي التكنولوجيا في شركة الأمن السحابي ، “إننا نضرب هذه النقطة الآن حيث تفقد الذكاء الاصطناعي فترة سماحها على الأمن”. “و AI هي أسوأ عدو لها من حيث توليد رمز غير آمن. إذا تم تدريب الذكاء الاصطناعى جزئيًا على البرامج القديمة أو الضعيفة أو منخفضة الجودة المتوفرة هناك ، فإن جميع مواد الضعف التي كانت موجودة يمكن أن تُعيد إدخالها مرة أخرى ، وليس ذكر القضايا الجديدة.”
بالإضافة إلى امتصاص بيانات التدريب التي يحتمل أن تكون غير آمنة ، فإن واقع الترميز في الأناقة هو أنه ينتج مشروعًا تقريبيًا من التعليمات البرمجية التي قد لا تأخذ في الاعتبار جميع السياق والاعتبارات المحددة حول منتج أو خدمة معينة. بمعنى آخر ، حتى إذا قامت الشركة بتدريب نموذج محلي على رمز المصدر للمشروع ووصف اللغة الطبيعية للأهداف ، فإن عملية الإنتاج لا تزال تعتمد على قدرة المراجعين البشريين على اكتشاف أي عيب أو عيب محتمل في الكود الذي تم إنشاؤه في الأصل بواسطة AI.
يقول Eran Kinsbruner ، الباحث في شركة CheckMarx: “تحتاج المجموعات الهندسية إلى التفكير في دورة حياة التطوير في عصر الترميز”. “إذا طلبت من نفس طراز LLM أن يكتب عن رمز المصدر المحدد الخاص بك ، في كل مرة سيكون فيها إخراج مختلف قليلاً. سيقوم مطور واحد داخل الفريق بإنشاء مخرج واحد وسيحصل المطور الآخر على إخراج مختلف. بحيث يقدم مضاعفات إضافية تتجاوز المصدر المفتوح.”
في دراسة استقصائية لكبار موظفي أمن المعلومات ، ومديري أمن التطبيقات ، ورؤساء التنمية ، قال ثلث المجيبين إن أكثر من 60 في المائة من مدونة منظمتهم تم إنشاؤها من قبل الذكاء الاصطناعى في عام 2024. لكن 18 في المائة فقط من المجيبين قالوا إن منظمتهم لديها قائمة من الأدوات المعتمدة للترميز. قام CheckMarx باستطلاع الآلاف من المهنيين ونشر النتائج في أغسطس – التأكيد ، أيضًا ، أن تطوير الذكاء الاصطناعي يجعل من الصعب تتبع “ملكية” الكود.
