أنشأ Fable، وهو تطبيق وسائط اجتماعية شهير يصف نفسه بأنه ملاذ لـ “عشاق الكتب والمراقبين المهتمين”، ميزة ملخص نهاية العام مدعومة بالذكاء الاصطناعي تلخص ما قرأه مستخدمو الكتب في عام 2024. وكان من المفترض أن تكون مرحة وممتعة، ولكن اتخذت بعض الملخصات نبرة قتالية غريبة. على سبيل المثال، سأل ملخص الكاتب داني جروفز عما إذا كان “في أي وقت مضى في مزاج لمنظور الرجل الأبيض المستقيم والمنتمي إلى رابطة الدول المستقلة” بعد أن وصفه بأنه “محب للتنوع”.
وفي الوقت نفسه، انتهى ملخص تيانا ترامل، مؤثرة الكتب، بالنصيحة التالية: “لا تنس الظهور على السطح للمؤلف الأبيض من حين لآخر، حسنًا؟”
شعرت تراميل بالذهول، وسرعان ما أدركت أنها ليست وحدها بعد مشاركة تجربتها مع ملخصات Fable على Threads. وتقول: “لقد تلقيت رسائل متعددة من أشخاص علقت ملخصاتهم بشكل غير لائق على “الإعاقة والتوجه الجنسي”.
منذ ظهور Spotify Wrapped لأول مرة، أصبحت ميزات الملخّص السنوي منتشرة في كل مكان عبر الإنترنت، مما يوفر للمستخدمين ملخصًا لعدد الكتب والمقالات الإخبارية التي قرأوها، والأغاني التي استمعوا إليها، والتدريبات التي أكملوها. تستخدم بعض الشركات الآن الذكاء الاصطناعي لإنتاج أو تعزيز كيفية تقديم هذه المقاييس بشكل كامل. تقدم Spotify، على سبيل المثال، الآن بثًا صوتيًا تم إنشاؤه بواسطة الذكاء الاصطناعي حيث تقوم الروبوتات بتحليل سجل الاستماع الخاص بك والتخمين حول حياتك بناءً على أذواقك. قفزت شركة Fable على هذا الاتجاه من خلال استخدام واجهة برمجة التطبيقات الخاصة بـ OpenAI لإنشاء ملخصات لعادات القراءة لمستخدميها على مدار الـ 12 شهرًا الماضية، لكنها لم تتوقع أن نموذج الذكاء الاصطناعي سيصدر تعليقًا اتخذ شكل النقاد المناهضين للاستيقاظ. .
اعتذرت Fable لاحقًا على العديد من قنوات التواصل الاجتماعي، بما في ذلك Threads وInstagram، حيث نشرت مقطع فيديو لمدير تنفيذي يصدر اعترافًا بالذنب. وكتبت الشركة في التعليق: “نأسف بشدة للأذى الذي سببته بعض ملخصات القراء لدينا هذا الأسبوع”. “سوف نقوم بعمل أفضل.”
قالت كيمبرلي مارش آلي، رئيسة مجتمع Fable، لـ WIRED إن الشركة تعمل على سلسلة من التغييرات لتحسين ملخصات الذكاء الاصطناعي الخاصة بها، بما في ذلك خيار إلغاء الاشتراك للأشخاص الذين لا يريدونها وإفصاحات أكثر وضوحًا تشير إلى أنهم ذكاء اصطناعي. ولدت. وتقول: “في الوقت الحالي، قمنا بإزالة الجزء الذي يضايق القارئ من النموذج، وبدلاً من ذلك يلخص النموذج ببساطة ذوق المستخدم في الكتب”.
بالنسبة لبعض المستخدمين، لا يبدو ضبط الذكاء الاصطناعي بمثابة استجابة كافية. شعرت الكاتبة الخيالية والرومانسية آر كوفر بالذعر عندما شاهدت لقطات شاشة لبعض الملخصات على وسائل التواصل الاجتماعي. “عليهم أن يقولوا إنهم سيتخلصون من الذكاء الاصطناعي بشكل كامل. وعليهم إصدار بيان، ليس فقط بشأن الذكاء الاصطناعي، بل مع اعتذار للمتضررين. “يبدو أن هذا” الاعتذار “على Threads غير صادق، حيث أن ذكر التطبيق هو أمر” مرح “كما لو أنه يبرر بطريقة أو بأخرى الاقتباسات العنصرية/المتحيزة جنسيًا/القدرة.” وردًا على الحادثة، قررت كوفر حذف حسابها على Fable.
وكذلك فعل تراميل. وتقول: “إن مسار العمل المناسب هو تعطيل الميزة وإجراء اختبارات داخلية صارمة، ودمج الضمانات المطبقة حديثًا لضمان، بأفضل ما في وسعهم، عدم تعرض أي مستخدمين آخرين للمنصة للأذى”.
