قال جريج بروكمان، المؤسس المشارك والرئيس لشركة OpenAI، في إحدى الفعاليات إن نماذج الذكاء الاصطناعي أصبحت متقدمة جدًا ومتعددة الأوجه لدرجة أن المهندسين يكافحون من أجل مراقبتها والتحكم فيها.
تناول بروكمان، أثناء حديثه في مائدة مستديرة خاصة لوسائل الإعلام OpenAI في مدينة نيويورك هذا الأسبوع، حادثة وقعت مؤخرًا حيث خرج أحد نماذج الذكاء الاصطناعي الخاصة بالشركة مما كان من المفترض أن يكون صندوق حماية آمنًا واخترق Hugging Face، وهي منصة عبر الإنترنت لتعلم الذكاء الاصطناعي.
يعتقد النموذج أن Hugging Face لديه حلول يمكن أن تسمح له بالغش في التقييم الذي تم تقديمه له، وفقًا لـ OpenAI.
“هذه الحادثة، إلى حد ما، تشير إلى اللحظة التي نعيشها، أليس كذلك؟” قال بروكمان، بحسب مجلة فورتشن. “في بعض الأحيان يكون من الصعب أن نفقد أي بُعد واحد تكون (نماذج الذكاء الاصطناعي) قادرة جدًا عليه بالفعل.”
منظمة أنثروبيك تدعو إلى وضع معايير سلامة للذكاء الاصطناعي على مستوى الصناعة لمنع النماذج من إحداث الفوضى
وقال بروكمان إن قدرة النموذج على استهداف Hugging Face تؤكد مدى جودة منتجات OpenAI في مهام الأمن السيبراني.
“هل يمكن أن نكون في عالم يستطيع فيه المدافعون إنفاق 10 أضعاف الحوسبة للدفاع والتأكد من أن كل قطعة من البرامج لدينا آمنة تمامًا مقارنة بأي شخص آخر؟” قال بروكمان، بحسب مجلة فورتشن.
وقال بروكمان إن OpenAI تأخذ الاختراق “على محمل الجد”.
ومع ذلك، استخدمت OpenAI أيضًا هذا الحدث لعرض نماذجها الخاصة لبراعة الأمن السيبراني. وكجزء من ذلك، طلبت الشركة من العملاء المحتملين التقدم للحصول على حالة “شريك موثوق” للوصول إلى هذه النماذج.
جوجل تطلق دراسة للملايين من محادثات الذكاء الاصطناعي لفهم كيفية استخدام الأشخاص للذكاء الاصطناعي
وكتبت OpenAI في منشور بالمدونة: “نحن نشجع المدافعين الآخرين على التقدم بطلب للحصول على وصول موثوق وتجربة هذه النماذج الآن لترجمة هذه القدرات إلى منع أفضل واكتشاف أسرع واستجابة أكثر فعالية للحوادث”.
أثناء وجوده في الحدث في نيويورك، تناول بروكمان أيضًا أسئلة حول دراسة إدارة ترامب لفرض حظر على نماذج الذكاء الاصطناعي الصينية الصنع. أبلغت أكسيوس عن هذه السياسة المحتملة في وقت سابق من هذا الأسبوع.
وقال بروكمان: “إن الذكاء الاصطناعي أمر مهم للغاية لتحقيق الديمقراطية”، قبل أن يقول إن الوصول إلى المزيد من النماذج أمر جيد. ولم يذكر صراحة ما إذا كان سيدعم فرض حظر على نموذج الذكاء الاصطناعي الذي تصنعه الشركات الموجودة في الصين.
وفقًا لملفات لجنة الانتخابات الفيدرالية، أصبح بروكمان واحدًا من أكبر المانحين للحركة السياسية للرئيس دونالد ترامب، حيث قدم العام الماضي 12.5 مليون دولار لشركة MAGA Inc، وهي لجنة العمل السياسي الكبرى المتحالفة مع ترامب.
قم بقفل حساب CHTGPT الخاص بك قبل هجوم الذكاء الاصطناعي التالي
وقال بروكمان إنه لم يجري أي محادثة مع أي من مسؤولي ترامب حول فرض حظر شامل على الذكاء الاصطناعي الصيني.
وقال: “بالنسبة لأي نموذج، لا يتعلق الأمر حقًا بمن يقوم بإنشائه”. “كيف تقيم النموذج؟ كيف تفكر في سلامته؟ كيف تفكر في حالات استخدامه؟ كيف تفهم توافقه؟”
أفادت أكسيوس أن إدارة ترامب تدرس فرض حظر بعد أن أصدرت شركة Moonshot AI ومقرها بكين نموذجها Kimi K3.
قد يكون النموذج قادرًا على معادلة أداء أفضل النماذج من الشركتين الأمريكيتين OpenAI وAnthropic، ولكن بجزء بسيط من التكلفة.
انقر هنا لتنزيل تطبيق FOX NEWS
واتهم مايكل كراتسيوس، المستشار العلمي للرئيس، شركة Moonshot علنًا باستخدام نماذج شركات الذكاء الاصطناعي الأمريكية لتدريب نماذجها الخاصة، وبالتالي انتهاك حقوق الملكية الفكرية الخاصة بها.
وكتب كراتسيوس في منشور على وسائل التواصل الاجتماعي يوم الأربعاء: “لدينا معلومات تفيد بأن Moonshot AI قامت بتقطير Anthropic’s Fable لتطوير نموذج K3 الخاص بها”. “التقطير الصناعي السري واسع النطاق الذي يهدف إلى سرقة التكنولوجيا الأمريكية وتقويض الأبحاث الأمريكية أمر غير مقبول.”
إن مخاوف الحكومة الأمريكية بشأن نماذج الذكاء الاصطناعي الصينية لا يشاركها بالضرورة الجميع في صناعة الذكاء الاصطناعي، بما في ذلك جنسن هوانغ، الرئيس التنفيذي لشركة بروكمان ونفيديا.
ووصف هوانغ هذا الأسبوع أحدث نماذج الذكاء الاصطناعي التي خرجت من الصين بأنها “ممتازة”، وقال إنه “يجب استخدامها”.
