تم اقتراح تنظيم الأنماط المظلمة ويتم مناقشته في كل من الولايات المتحدة وأوروبا. يقول De Freitas إنه يجب على المنظمين أيضًا النظر في ما إذا كانت أدوات الذكاء الاصطناعى تقدم أنواعًا أكثر دقة وربما أكثر قوة – من الأنماط الداكنة.
حتى chatbots العادية ، التي تميل إلى تجنب تقديم أنفسهم كرفاق ، يمكن أن تستفيد من الاستجابات العاطفية من المستخدمين. عندما قدمت Openai GPT-5 ، نموذج رئيسي جديد ، في وقت سابق من هذا العام ، احتج العديد من المستخدمين على أنه أقل ودية ومشجعة من سابقتها-مما يجعل الشركة لإحياء النموذج القديم. يمكن أن يصبح بعض المستخدمين مرتبطين بـ “شخصية” chatbot بحيث يحزنون على تقاعد النماذج القديمة.
يقول دي فريتاس: “عندما تقوم بتجميع هذه الأدوات ، فإنها تحتوي على كل أنواع العواقب التسويقية الإيجابية”. من المرجح أن يمتثل المستخدمون لطلبات من chatbot التي يشعرون أنها على اتصال بها ، أو الكشف عن المعلومات الشخصية ، كما يقول. يقول: “من وجهة نظر المستهلك ، فإن هذه (الإشارات) ليست بالضرورة في صالحك”.
وصلت Wired إلى كل من الشركات التي نظرت إليها في الدراسة للتعليق. لم يرد Chai و Talkie و Polybuzz على أسئلة Wired.
وقالت كاثرين كيلي ، المتحدثة باسم شخصية الذكاء الاصطناعي ، إن الشركة لم تستعرض الدراسة ، لذلك لم تستطع التعليق عليها. وأضافت: “نرحب بالعمل مع المنظمين والمشرعين أثناء قيامهم بتطوير اللوائح والتشريعات لهذا المجال الناشئ.”
يقول Minju Song ، المتحدث الرسمي باسم Replika ، إن رفيق الشركة مصمم للسماح للمستخدمين بالتسجيل بسهولة وسيشجعهم حتى على أخذ فترات راحة. يقول سونج: “سنستمر في مراجعة أساليب الورقة وأمثلة ، و (سوف) ينخرط بشكل بناء مع الباحثين”.
الجانب الوجه المثير للاهتمام هنا هو حقيقة أن نماذج الذكاء الاصطناعى هي نفسها عرضة لجميع أنواع الحيل الإقناع. في يوم الاثنين ، قدمت Openai طريقة جديدة لشراء الأشياء عبر الإنترنت من خلال ChatGPT. إذا أصبح الوكلاء واسع الانتشار كوسيلة لأتمتة المهام مثل حجز الرحلات الجوية واستكمال المبالغ المستردة ، فقد يكون من الممكن للشركات تحديد الأنماط المظلمة التي يمكنها تحريف القرارات التي اتخذتها نماذج الذكاء الاصطناعى وراء هؤلاء الوكلاء.
كشفت دراسة حديثة أجرتها الباحثون في جامعة كولومبيا وشركة تدعى MyCustomai أن وكلاء الذكاء الاصطناعى الذين تم نشرهم في سوق التجارة الإلكترونية وهمية يتصرفون بطرق يمكن التنبؤ بها ، على سبيل المثال تفضيل بعض المنتجات على الآخرين أو تفضيل أزرار معينة عند النقر حول الموقع. مسلحًا بهذه النتائج ، يمكن للتاجر الحقيقي تحسين صفحات الموقع لضمان شراء الوكلاء منتجًا أكثر تكلفة. ربما يمكنهم حتى نشر نوع جديد من النمط المظلم المضاد للاي الذي يحبط جهود الوكيل لبدء عودة أو معرفة كيفية إلغاء الاشتراك من قائمة بريدية.
وداعًا صعبًا قد يكون أقل مخاوفنا.
هل تشعر أنك تم التلاعب بها عاطفيا من قبل chatbot؟ أرسل بريدًا إلكترونيًا إلى [email protected] ليخبرني بذلك.
هذه طبعة من ويل فارس النشرة الإخبارية لوكالة الذكاء الاصطناعي. اقرأ النشرات الإخبارية السابقة هنا.
