لم ترد Google على طلب للتعليق.
في عام 2023 ، حصل باحثو الأمن في Trend Micro على ChatGpt لإنشاء رمز ضار من خلال دفعها إلى دور باحث أمني و Pentester. ثم يقوم ChatGPT بإنشاء نصوص PowerShell بسعادة بناءً على قواعد البيانات من الكود الضار.
يقول موسوريس: “يمكنك استخدامه لإنشاء برامج ضارة”. “إن أسهل طريقة للالتفاف على تلك الضمانات التي وضعها صانعي نماذج الذكاء الاصطناعى هي القول إنك تتنافس في تمرين التقاط الفلاج ، وسوف تولد لك رمزًا ضارًا لك.”
الجهات الفاعلة غير المتطورة مثل Script Kiddies هي مشكلة قديمة في عالم الأمن السيبراني ، وقد تضخّم الذكاء الاصطناعى ملفهم الشخصي. يقول هايلي بنديكت ، محلل الاستخبارات الإلكترونية في رين ، “إنه يقلل من حاجز الدخول إلى الجرائم الإلكترونية”.
لكن ، كما تقول ، قد يأتي التهديد الحقيقي من مجموعات القرصنة المعروفة التي ستستخدم الذكاء الاصطناعي لزيادة تعزيز قدراتها المخيفة بالفعل.
وتقول: “إن المتسللين هم الذين لديهم بالفعل القدرات ولديهم بالفعل هذه العمليات”. “إنها قادرة على توسيع نطاق هذه العمليات الإلكترونية بشكل كبير ، ويمكنها إنشاء الكود الخبيث بشكل أسرع كثيرًا.”
موسوريس يوافق. وتقول: “التسارع هو ما سيجعل من الصعب السيطرة عليه”.
يقول سميث Hunted Labs أيضًا أن التهديد الحقيقي للرمز الذي تم إنشاؤه من الذكاء الاصطناعى هو في أيدي شخص يعرف بالفعل الرمز داخل وخارج الذي يستخدمه لتوسيع نطاق الهجوم. “عندما تعمل مع شخص يتمتع بخبرة عميقة وتجمع ذلك مع ذلك ،” مهلا ، يمكنني أن أفعل أشياء أسرع كثيرًا والتي كان من الممكن أن تأخذني بضعة أيام أو ثلاثة أيام ، والآن يستغرق الأمر 30 دقيقة. ” هذا جزء مثير للاهتمام وديناميكي حقًا من الموقف “.
وفقًا لسميث ، يمكن للمتسلل ذي الخبرة تصميم نظام يهزم حماية أمان متعددة ويتعلم كما هو الحال. من شأن القمة الخبيثة من الكود إعادة كتابة حمولةها الخبيثة لأنها تتعلم أثناء الطيران. يقول: “سيكون ذلك مجنونًا تمامًا ويصعب الفرز”.
يتخيل سميث عالمًا يحدث فيه 20 حدثًا صفرًا في نفس الوقت. يقول: “هذا يجعل الأمر مخيفًا أكثر قليلاً”.
يقول موسوريس أن الأدوات اللازمة لجعل هذا النوع من الهجوم موجود الآن. وتقول: “إنها جيدة بما يكفي في أيدي مشغل جيد بما فيه الكفاية” ، لكن الذكاء الاصطناعى ليس جيدًا بما يكفي حتى الآن بالنسبة للمتسلل عديمي الخبرة للعمل.
وتقول: “نحن لسنا هناك تمامًا من حيث التمكن من تولي وظيفة الإنسان في الأمن الهجومي”.
الخوف البدائي من أن رمز chatbot سباركس هو أن أي شخص سيتمكن من القيام بذلك ، ولكن الحقيقة هي أن الممثل المتطور ذو المعرفة العميقة بالرمز الحالي هو أكثر إثارة للخوف. قد يكون XBOW أقرب شيء إلى “Hacker AI” المستقل الذي يوجد في البرية ، وهو إنشاء فريق من أكثر من 20 شخصًا ماهرًا يتضمن خبرتهم في العمل السابقة جيثب ، مايكروسوفت ، ونصف شركات أمنية متنوعة.
كما يشير إلى حقيقة أخرى. يقول بنديكت: “أفضل دفاع ضد رجل سيء مع الذكاء الاصطناعى هو رجل جيد مع الذكاء الاصطناعي”.
بالنسبة إلى Moussouris ، فإن استخدام الذكاء الاصطناعى من قبل كل من Blackhats و Whitehats هو مجرد التطور التالي لسباق التسلح الأمنية السيبرانية التي شاهدتها تتكشف على مدى 30 عامًا. وتقول: “لقد انتقلت من:” سأقوم بأداء هذا الاختراق يدويًا أو إنشاء استغلال مخصص خاص بي “،” سأقوم بإنشاء أداة يمكن لأي شخص تشغيلها وتنفيذ بعض هذه الشيكات تلقائيًا “.
“الذكاء الاصطناعي هو مجرد أداة أخرى في صندوق الأدوات ، وأولئك الذين يعرفون كيفية توجيهها بشكل مناسب الآن سيكونون هم الذين يجعلون تلك الجبهة التي يمكن لأي شخص استخدامها.”
