الأنثروبي لا يستطيع التلاعب نموذج الذكاء الاصطناعي التوليدي كلود بمجرد أن يقوم الجيش الأمريكي بتشغيله، حسبما كتب أحد المسؤولين التنفيذيين في دعوى قضائية يوم الجمعة. وجاء هذا البيان ردًا على اتهامات إدارة ترامب بشأن احتمال تلاعب الشركة بأدوات الذكاء الاصطناعي الخاصة بها أثناء الحرب.
وكتب تياجو راماسامي، رئيس القطاع العام في أنثروبيك: “لم يكن لدى أنثروبيك مطلقًا القدرة على التسبب في توقف كلود عن العمل، أو تغيير وظائفه، أو إغلاق الوصول إليه، أو التأثير على العمليات العسكرية أو تعريضها للخطر”. “لا تتمتع شركة Anthropic بحق الوصول المطلوب لتعطيل التكنولوجيا أو تغيير سلوك النموذج قبل أو أثناء العمليات الجارية.”
كان البنتاغون يتجادل مع مختبر الذكاء الاصطناعي الرائد منذ أشهر حول كيفية استخدام تقنيته للأمن القومي، وما هي الحدود التي ينبغي أن تكون على هذا الاستخدام. وفي هذا الشهر، وصف وزير الدفاع بيت هيجسيث شركة أنثروبيك بأنها تمثل خطراً على سلسلة التوريد، وهو التصنيف الذي سيمنع وزارة الدفاع من استخدام برامج الشركة، بما في ذلك من خلال المقاولين، خلال الأشهر المقبلة. تتخلى الوكالات الفيدرالية الأخرى أيضًا عن كلود.
رفعت أنثروبيك دعويين قضائيتين للطعن في دستورية الحظر وتسعى للحصول على أمر طارئ لإلغائه. ومع ذلك، بدأ العملاء بالفعل في إلغاء الصفقات. ومن المقرر عقد جلسة استماع في إحدى القضايا في 24 مارس/آذار في محكمة المقاطعة الفيدرالية في سان فرانسيسكو. يمكن للقاضي أن يقرر التراجع المؤقت بعد فترة وجيزة.
وفي ملف في وقت سابق من هذا الأسبوع، كتب محامو الحكومة أن وزارة الدفاع “ليست مطالبة بالتسامح مع خطر تعرض الأنظمة العسكرية الحيوية للخطر في اللحظات المحورية للدفاع الوطني والعمليات العسكرية النشطة”.
وذكرت مجلة WIRED أن البنتاغون كان يستخدم كلود لتحليل البيانات وكتابة المذكرات والمساعدة في وضع خطط المعركة. حجة الحكومة هي أن Anthropic يمكن أن تعطل العمليات العسكرية النشطة عن طريق إيقاف الوصول إلى Claude أو دفع التحديثات الضارة إذا لم توافق الشركة على استخدامات معينة.
ورفض راماسامي هذا الاحتمال. وكتب: “لا تحتفظ شركة Anthropic بأي باب خلفي أو مفتاح إيقاف عن بعد”. “لا يستطيع الأفراد البشريون، على سبيل المثال، تسجيل الدخول إلى نظام DoW لتعديل النماذج أو تعطيلها أثناء العملية؛ فالتكنولوجيا ببساطة لا تعمل بهذه الطريقة.”
ومضى يقول إن Anthropic لن تكون قادرة على تقديم التحديثات إلا بموافقة الحكومة ومزودها السحابي، في هذه الحالة Amazon Web Services، على الرغم من أنه لم يحدد ذلك بالاسم. وأضاف راماسامي أن Anthropic لا يمكنها الوصول إلى المطالبات أو البيانات الأخرى التي يدخلها المستخدمون العسكريون في كلود.
يؤكد المسؤولون التنفيذيون الأنثروبولوجيون في ملفات المحكمة أن الشركة لا تريد حق النقض على القرارات التكتيكية العسكرية. وكتبت سارة هيك، رئيسة قسم السياسات، في ملف للمحكمة يوم الجمعة، أن شركة أنثروبيك كانت على استعداد لضمان نفس القدر في العقد المقترح في 4 مارس. وجاء في الاقتراح، وفقًا للملف: “لتجنب الشك، تدرك (أنثروبيك) أن هذا الترخيص لا يمنح أو يمنح أي حق في السيطرة أو الاعتراض على اتخاذ القرارات التشغيلية القانونية لوزارة الحرب”، وفقًا للملف الذي يشير إلى اسم بديل للبنتاغون.
وزعم هيك أن الشركة مستعدة أيضًا لقبول اللغة التي من شأنها معالجة مخاوفها بشأن استخدام كلود للمساعدة في تنفيذ ضربات مميتة دون إشراف بشري. لكن المفاوضات انهارت في نهاية المطاف.
في الوقت الحالي، قالت وزارة الدفاع في ملفات المحكمة إنها “تتخذ إجراءات إضافية للتخفيف من مخاطر سلسلة التوريد” التي تشكلها الشركة من خلال “العمل مع مقدمي الخدمات السحابية من الأطراف الثالثة لضمان عدم قدرة القيادة البشرية على إجراء تغييرات أحادية الجانب” على أنظمة كلود الموجودة حاليًا.
