ما يزيد قليلا عن أ قبل أسبوع، حضرت مؤتمرا كبيرا للذكاء الاصطناعي في تشونغ قوان تسون، منطقة التكنولوجيا الفائقة الصاخبة في بكين.
لقد كانت مليئة بالجلسات الرائعة التي تطرقت إلى كل شيء بدءًا من التحسين الذاتي المتكرر – فكرة أن النماذج يمكنها تعديل الكود الخاص بها والتقدم إلى أجل غير مسمى – إلى الروبوتات البشرية. وقد ضمت عددًا قليلًا من أساطير الحوسبة، بما في ذلك ويتفيلد ديفي، المخترع المشارك لتشفير المفتاح العام، وأندرو بارتو، الذي فاز بجائزة تورينج مع ريتش ساتون لعمله الرائد في التعلم المعزز.
ولكنني غادرت بخلاصة واحدة قبل كل شيء: ينبغي للولايات المتحدة والصين أن تضعا التنافس الشرس بينهما في مجال الذكاء الاصطناعي جانبا.
إن الأمن السيبراني والمخاطر النظامية التي تواجهها شركة Frontier AI خطيرة للغاية بحيث لا يمكن تجاهلها، وقد تؤدي النماذج العميلة ذات القدرة المتزايدة إلى إحداث الفوضى قريبًا ما لم تتمكن القوى العظمى في مجال الذكاء الاصطناعي في العالم من العمل معًا. قال لي ستيفن كاسبر، عالم الكمبيوتر في معهد ماساتشوستس للتكنولوجيا والذي تحدث في المؤتمر عبر الفيديو، بعد ذلك: “إن الذكاء الاصطناعي هو تكنولوجيا عالمية ذات فوائد عالمية، وأضرار عالمية، وميل ثابت لانتشار القدرات الجديدة في نهاية المطاف”.
حتى الآن، كانت الولايات المتحدة تنظر إلى التقدم الذي أحرزته الصين في مجال الذكاء الاصطناعي باعتباره تهديدا اقتصاديا وأمنيا قوميا. وفرضت واشنطن قيودًا مشددة على الرقائق ومعدات تصنيع الرقائق لإحباط تطوير البلاد لذكاء اصطناعي قوي. في الآونة الأخيرة، أمرت حكومة الولايات المتحدة شركة أنثروبيك بمنع المواطنين الأجانب من الوصول إلى أقوى نماذجها، Mythos وFable 5، بسبب مخاوف تتعلق بالأمن القومي. رداً على ذلك، ألغى Anthropic إمكانية الوصول للجميع. إحدى الشركات التي كانت مثيرة للقلق بشكل خاص، حسبما كشفت مجلة WIRED سابقًا، كانت شركة اتصالات كورية جنوبية عملاقة لها علاقات مزعومة مع الصين.
لكن المؤتمر، الذي نظمته أكاديمية بكين للذكاء الاصطناعي، عزز فكرة مفادها أن الولايات المتحدة والصين سوف تخسران إذا تم تطوير الذكاء الاصطناعي بسرعة كبيرة وبشكل متهور. وبينما يصبح الذكاء الاصطناعي أكثر قوة، وأكثر فعالية، وأكثر تشابكا مع الحياة اليومية، فإن المخاطر التي يمكن استخدامها لشن هجمات سيبرانية أو الفشل بطرق كارثية سوف تتزايد. ونظرًا لأن القوتين المهيمنتين في مجال الذكاء الاصطناعي في العالم مسؤولتان عن النماذج الأكثر تقدمًا، يبدو أن التعاون بينهما سيكون أمرًا بالغ الأهمية.
وأشار كاسبر إلى بحث يظهر أن فوائد التعاون الدولي بشأن مخاطر الذكاء الاصطناعي تفوق أي مخاطر أمنية وطنية تأتي من العمل معًا. وشبه الوضع الحالي بالكيفية التي اضطرت بها الولايات المتحدة والاتحاد السوفييتي إلى العمل معاً بشأن المخاطر النووية، حتى في حين كان كل منهما يسعى إلى التفوق على الآخر في تخزين الأسلحة النووية.
قال كاسبر: “الشيء الوحيد الذي يمكن أن يتفق عليه الجميع تقريبًا في مجال الذكاء الاصطناعي في الوقت الحالي هو أن الذكاء الاصطناعي لا يحتاج إلى لحظة تشيرنوبيل”.
وسلطت إحدى الجلسات التي استمرت يومًا واحدًا الضوء على عالمية التحديات السيبرانية التي يثيرها الذكاء الاصطناعي الأكثر تقدمًا. يتضمن ذلك أنواعًا جديدة من نقاط الضعف في التعليمات البرمجية التي ينشئها الذكاء الاصطناعي، وطرقًا جديدة لمهاجمة الأنظمة التي يتم تمكينها من خلال استخدام الأدوات الوكيلة، والأساليب الآلية لتنفيذ هجمات الهندسة الاجتماعية.
وبعد جلسة أخرى، تحدثت مع لين يون، الأستاذ في جامعة شنغهاي جيا تونغ والذي يقوم بعمل ممتاز في مجال الذكاء الاصطناعي وأمن الكمبيوتر. أخبرني يون أنه يتوقع أن يكتسب المتسللون ميزة على المدى القريب، لكن التدابير المضادة الجديدة، بما في ذلك الاستخدامات الجديدة للذكاء الاصطناعي، يجب أن تعيد التوازن نحو الدفاع بمرور الوقت.
وقال يون إنه حتى لو كان التعاون الدولي معقدا بسبب المنافسة، فإنه يجب أن يظل أولوية. وقال لي: “إذا فهمت الدول المختلفة المخاطر بطرق مماثلة، يصبح من الأسهل تطوير مبادئ السلامة والمعايير الفنية المشتركة”. “المفتاح هو العثور على المجالات التي يمكن أن تؤدي فيها المشاركة إلى تقليل المخاطر النظامية دون الكشف عن تفاصيل تشغيلية حساسة.”
ولعل السؤال الأكثر إلحاحاً لكلا البلدين هو كيفية الموازنة بين الانفتاح والمخاطر. وأصبحت النماذج ذات الوزن المفتوح تشكل أهمية بالغة للبحث والابتكار، حيث أثبتت النماذج الصينية شعبيتها في الولايات المتحدة. ولكن مع تقدم هذه النماذج، سيصبح من الصعب التأكد من أنها لا تساعد المتسللين على تحديد نقاط الضعف الأمنية ولا يمكن استخدامها كأسلحة سيبرانية.
