يتزايد سباق الذكاء الاصطناعي (AI) مع سعي المطورين للحصول على أدوات ذكاء اصطناعي ذات قدرة متزايدة وتسابق الشركات لنشر أدوات الذكاء الاصطناعي للاستفادة من مكاسب الكفاءة وجني الفوائد المالية – لكن تقرير جديد يحذر من افتقار الشركات إلى الحوكمة الكافية لأدوات الذكاء الاصطناعي.
شهد هذا الأسبوع حادثة رفيعة المستوى تتعلق بالذكاء الاصطناعي، حيث أدى اختبار داخلي لنماذج الذكاء الاصطناعي من قبل OpenAI، الشركة المصنعة لـ ChatGPT، إلى استغلال النماذج لخلل برمجي، والإفلات من الاحتواء واختراق Hugging Face، التي تدير منصة للمطورين للتعاون في التعليمات البرمجية لنماذج الذكاء الاصطناعي، للغش في تقييم الأمن السيبراني.
وفي حين قامت الشركتان باحتواء الحادث، إلا أنه أظهر القدرات المتنامية بسرعة لنماذج الذكاء الاصطناعي لتجاوز حواجز الحماية الخاصة بها وتشكيل تهديدات للأمن السيبراني، حيث أشار القادة من كلا الشركتين إلى أهمية ما حدث.
وقالت ميريام فوجل، الرئيس التنفيذي لشركة EqualAI، التي أصدرت منظمتها تقريرًا أبيض حول حوكمة الذكاء الاصطناعي ونشره هذا الأسبوع، لـFOX Business: “إن الابتكار يسير بوتيرة غير مسبوقة؛ والمشكلة هي أن الحوكمة لا تتوافق مع هذه الوتيرة”.
وقالت: “ما نريد التأكد من أن الناس يدركونه من هذا الحادث هو، في جميع المجالات، أننا بحاجة إلى توقعات أقوى إذا أردنا البدء في بناء الثقة والتأكد من أن هذه الأنظمة تستحق ثقتنا”.
أحد مؤسسي OPENAI يحذر من أن نماذج الذكاء الاصطناعي أصبحت أكثر صعوبة في السيطرة عليها بعد اختراق نموذجها لشركة أخرى
وأشار فوجل إلى أن معظم نقاط اتصال المستهلكين بالذكاء الاصطناعي تتم من خلال الشركات التي نشرت نوعًا ما من حلول الذكاء الاصطناعي. وأضافت أن المنتدى الاقتصادي العالمي وجد أن أقل من 1% من الشركات لديها حوكمة قوية لأنظمة الذكاء الاصطناعي، في حين وجدت شركة ماكينزي العام الماضي أن أقل من ثلث الشركات لديها أي حوكمة للذكاء الاصطناعي.
وقالت: “أعتقد أن الكثير من الناس يفترضون أنها مشكلة شخص آخر، كما تعلمون، أنها مشكلة المطور أو أنهم لا يفهمون أن هذه مشكلتهم”.
“على الرغم من أن هذه، في هذه الحالة، مشكلة بالنسبة لشركة تطوير، إلا أن الكثير من الأماكن التي يتم فيها ذلك وستستمر في اللعب هي مع الناشر – مع الرعاية الصحية والتمويل ووسائل التواصل الاجتماعي والبنية التحتية – وجميع الطرق الأخرى (الشركات) التي تستخدم الذكاء الاصطناعي الوكيل،” قال فوجل.
وقالت إن المحاكم تطبق المسؤولية بشكل متزايد على الشركات التي نشرت الذكاء الاصطناعي الوكيل للعمل مع العملاء أو الشركات، بدلاً من الشركة التي طورت نموذج أو أداة الذكاء الاصطناعي الأساسية.
وأضاف فوجل: “الكثير من هذا يصبح مسؤولية الشخص الذي كان له اللمسة الأخيرة عليه، والذي تشارك بياناته، وعملاؤه. وغالبًا ما يكونون هم من يتحمل المسؤولية”.
منظمة أنثروبيك تدعو إلى وضع معايير سلامة للذكاء الاصطناعي على مستوى الصناعة لمنع النماذج من إحداث الفوضى
وقال فوجل: “في حين أن الحوكمة الجيدة تستغرق بعض الوقت لوضع أساس متين حقًا، فإن أفضل الممارسات تتماشى حقًا مع المنظمات الرائدة التي تهتم بهذا العمل في جميع أنحاء العالم. لقد توصلوا جميعًا إلى هذا بشكل مستقل، وهناك بالفعل الكثير من الإجماع حول أفضل الممارسات”.
وقال فوجل: “الشيء الآخر الذي يعد خبرًا جيدًا هو أن معظم هذا لا يتعلق بعلم الصواريخ، بل إن القيادة والحكم الرشيد يتم تطبيقهما للتو على الذكاء الاصطناعي”.
ترى EqualAI خمسة مجالات رئيسية يجب على الشركات مراعاتها عند إنشاء حوكمة حول الذكاء الاصطناعي الوكيل. ويشمل ذلك الاطلاع على أدوات الذكاء الاصطناعي المستخدمة عبر المؤسسات، حيث قد لا يفهم القادة بصمة الذكاء الاصطناعي لشركتهم وما هي الفرص أو المخاطر التي قد تطرحها؛ بالإضافة إلى المساءلة عبر مستويات القيادة وأقسام الشركة.
يعد تفعيل مبادئ الذكاء الاصطناعي عنصرًا آخر – والذي قال فوجل إنه يستلزم وضع المبادئ المنصوص عليها في المستندات مثل ملف PDF موضع التنفيذ فيما يتعلق بأشياء مثل التواصل حول المشكلات التي تنشأ، ويعتمد على الثقة الداخلية بوجود مساءلة مشتركة في المنظمة.
حادثة مراقبة البيت الأبيض بعد هروب نماذج OPENAI من الاحتواء واختراق أنظمة الوجه
هناك جانب آخر لحوكمة الذكاء الاصطناعي وهو ضمان وجود حلقات ردود فعل يمكن الاستفادة منها على أساس متكرر مع تكرار أدوات ونماذج الذكاء الاصطناعي وتحسينها للبقاء في صدارة المشكلات مثل انحراف النماذج. يمكن أن يأخذ هذا شكل وجود خطة وإيقاع للاختبار الروتيني.
يعد محو الأمية في مجال الذكاء الاصطناعي هو الركيزة الخامسة لإطار حوكمة الذكاء الاصطناعي الشامل الذي اقترحته فوغل، والذي ربطته بـ “زيادة عدم الثقة في الذكاء الاصطناعي” وترى أنه يساهم في المخاوف التي تطغى على الحماس حول أدوات الذكاء الاصطناعي في تصور الجمهور.
وأوضح فوجل: “أعتقد أن هذا لا يعتمد بشكل مباشر على البنية التحتية العامة للحوكمة التي تفتقر إليها معظم المؤسسات فحسب، بل على هذا الجزء الأساسي من حوكمة الذكاء الاصطناعي وهو محو الأمية في مجال الذكاء الاصطناعي”. “معظم الناس لا يعرفون أنهم يستخدمون الذكاء الاصطناعي، ولا يريدون استخدامه، ولا يعرفون كيفية استخدامه.”
احصل على FOX Business أثناء التنقل بالنقر هنا
وقالت: “إن معرفة القراءة والكتابة للذكاء الاصطناعي هي مجرد متغير رئيسي في التأكد من أن الناس يفهمون كيفية استخدامه، وأنهم يعرفون كيفية تجنب المخاطر لأنهم لا يريدون التسبب في ضرر أو تحميل أنفسهم أو مؤسساتهم مسؤولية”. “إن التأكد من أن القوى العاملة لديك والمستهلكين يفهمون كيفية استخدامك للذكاء الاصطناعي، وكيف أنك لن تستخدمه، وكيف يمكن أن يفيدهم هو متغير رئيسي.”
