هذه المخاوف هي جزء من السبب وراء إعلان OpenAI في يناير أنها ستمنع الأشخاص من استخدام تقنيتها لإنشاء روبوتات الدردشة التي تحاكي المرشحين السياسيين أو تقدم معلومات كاذبة تتعلق بالتصويت. وقالت الشركة أيضًا إنها لن تسمح للأشخاص ببناء تطبيقات للحملات السياسية أو جماعات الضغط.
في حين أن صفحة Kennedy chatbot لا تكشف عن النموذج الأساسي الذي يشغلها، فإن الكود المصدري للموقع يربط هذا الروبوت بـ LiveChatAI، وهي شركة تعلن عن قدرتها على توفير روبوتات الدردشة لدعم العملاء التي تعمل بنظام GPT-4 وGPT-3.5 للشركات. ويصف موقع LiveChatAI الإلكتروني برامج الروبوت الخاصة به بأنها “تستغل إمكانات ChatGPT”.
عندما سئل عن نموذج اللغة الكبير الذي يشغل روبوت حملة كينيدي، قال المؤسس المشارك لـ LiveChatAI، إمري إلبيوغلو، في بيان عبر البريد الإلكتروني يوم الخميس إن المنصة “تستخدم مجموعة متنوعة من التقنيات مثل Llama وMistral” بالإضافة إلى GPT-3.5 وGPT-4. وقال البي أوغلو: “لا يمكننا تأكيد أو نفي تفاصيل استخدام أي عميل بسبب التزامنا بسرية العميل”.
صرح المتحدث باسم OpenAI، نيكو فيليكس، لـ WIRED يوم الخميس أن الشركة “ليس لديها أي إشارة” إلى أن برنامج الدردشة الآلي الخاص بحملة كينيدي كان يعتمد بشكل مباشر على خدماتها، لكنه اقترح أن LiveChatAI ربما تستخدم أحد نماذجها من خلال خدمات Microsoft. منذ عام 2019، أفادت التقارير أن مايكروسوفت استثمرت أكثر من 13 مليار دولار في OpenAI. تم دمج نماذج ChatGPT الخاصة بـ OpenAI منذ ذلك الحين في محرك بحث Microsoft Bing وOffice 365 Copilot الخاص بالشركة.
وفي يوم الجمعة، أكد متحدث باسم مايكروسوفت أن برنامج كينيدي للدردشة “يستفيد من قدرات خدمة Microsoft Azure OpenAI Service”. قالت مايكروسوفت إن عملائها غير ملزمين بشروط خدمة OpenAI، وأن برنامج كينيدي للدردشة لم ينتهك سياسات مايكروسوفت.
وقال المتحدث: “يُظهر اختبارنا المحدود لبرنامج الدردشة الآلي هذا قدرته على توليد إجابات تعكس سياقه المقصود، مع التحذيرات المناسبة للمساعدة في منع المعلومات الخاطئة”. “عندما نجد مشكلات، فإننا نتعامل مع العملاء لفهمهم وتوجيههم نحو الاستخدامات التي تتوافق مع تلك المبادئ، وفي بعض السيناريوهات، قد يؤدي ذلك إلى إيقاف وصول العميل إلى تقنيتنا.”
لم يستجب OpenAI على الفور لطلب التعليق من WIRED حول ما إذا كان الروبوت قد انتهك قواعده. في وقت سابق من هذا العام، منعت الشركة مطور Dean.bot، وهو روبوت دردشة مبني على نماذج OpenAI التي تحاكي المرشح الرئاسي الديمقراطي دين فيليبس وتقدم إجابات على أسئلة الناخبين.
في وقت متأخر من بعد ظهر يوم الأحد، لم تعد خدمة chatbot متاحة. بينما تظل الصفحة قابلة للوصول على موقع حملة كينيدي، تعرض نافذة chatbot المضمنة الآن رمز علامة تعجب حمراء، وتقول ببساطة “لم يتم العثور على Chatbot”. تواصلت WIRED مع Microsoft وOpenAI وLiveChatAI وحملة Kennedy للتعليق على الإزالة الواضحة لبرنامج الدردشة الآلية، لكنها لم تتلق ردًا فوريًا.
ونظرًا لميل روبوتات الدردشة إلى الهلوسة والفواق، فقد كان استخدامها في السياقات السياسية مثيرًا للجدل. يعد OpenAI حاليًا نموذج اللغة الكبيرة الرئيسي الوحيد الذي يحظر استخدامه صراحةً في الحملات الانتخابية؛ تمتلك كل من Meta وMicrosoft وGoogle وMistral شروط خدمة، لكنها لا تتناول السياسة بشكل مباشر. وبالنظر إلى أن الحملة يمكنها على ما يبدو الوصول إلى GPT-3.5 وGPT-4 من خلال طرف ثالث دون عواقب، فلا توجد أي قيود على الإطلاق.
وقال وولي: “يمكن لشركة OpenAI أن تقول إنها لا تسمح بالاستخدام الانتخابي لأدواتها أو استخدام أدواتها في الحملات الانتخابية من ناحية”. “ولكن من ناحية أخرى، فهو يجعل هذه الأدوات متاحة مجانًا إلى حد ما. ونظرًا للطبيعة الموزعة لهذه التكنولوجيا، يتعين على المرء أن يتساءل كيف سيتمكن Open AI بالفعل من فرض سياساته الخاصة.
