لا أريد أن أعترف بذلك، لكنني أنفقت الكثير من المال عبر الإنترنت في موسم التسوق في العطلة. ومن غير المستغرب أن بعض هذه المشتريات لم تلبي توقعاتي. تعرض كتاب الصور الفوتوغرافية الذي اشتريته للتلف أثناء النقل، لذا التقطت بعض الصور وأرسلتها عبر البريد الإلكتروني إلى التاجر واستردت أموالي. تعتمد منصات التسوق عبر الإنترنت منذ فترة طويلة على الصور التي يرسلها العملاء للتأكد من مشروعية طلبات استرداد الأموال. لكن الذكاء الاصطناعي التوليدي بدأ الآن في كسر هذا النظام.
قرصة مشبوهة جدا
في تطبيق الوسائط الاجتماعية الصيني RedNote، عثرت WIRED على ما لا يقل عن اثنتي عشرة مشاركة من بائعي التجارة الإلكترونية وممثلي خدمة العملاء يشتكون من مطالبات استرداد الأموال التي تم إنشاؤها بواسطة الذكاء الاصطناعي والتي تلقوها. في إحدى الحالات، اشتكى أحد العملاء من أن ملاءة السرير التي اشتراها كانت ممزقة إلى أجزاء، لكن الأحرف الصينية الموجودة على ملصق الشحن بدت وكأنها هراء. وفي صورة أخرى، أرسل المشتري صورة لفنجان قهوة به شقوق تشبه تمزقات الورق. “هذا كوب من السيراميك، وليس كوبًا من الورق المقوى. من يستطيع تمزيق كوب السيراميك إلى طبقات مثل هذه؟” كتب البائع.
أفاد التجار أن هناك عددًا قليلًا من فئات المنتجات التي يتم فيها إساءة استخدام صور الضرر الناتجة عن الذكاء الاصطناعي أكثر من غيرها: البقالة الطازجة، ومنتجات التجميل منخفضة التكلفة، والمواد الهشة مثل أكواب السيراميك. في كثير من الأحيان، لا يطلب البائعون من العملاء إرجاع هذه السلع قبل إصدار رد الأموال، مما يجعلهم أكثر عرضة لعمليات الاحتيال.
في نوفمبر/تشرين الثاني، تلقى تاجر يبيع السرطانات الحية على Douyin، النسخة الصينية من TikTok، صورة من عميل جعلتها تبدو وكأن معظم السرطانات التي اشترتها وصلت ميتة بالفعل، بينما هرب اثنان آخران. حتى أن المشتري أرسل مقاطع فيديو تظهر السرطانات الميتة وهي تُطعن بإصبع بشري. ولكن كان هناك شيء خارج.
وقالت البائعة غاو جينغ في مقطع فيديو نشرته لاحقًا على موقع Douyin: “تقوم عائلتي بتربية السلطعون منذ أكثر من 30 عامًا. لم نر قط سلطعونًا ميتًا أرجله متجهة إلى الأعلى”. ولكن ما كشف الخدعة في نهاية المطاف هو جنس السرطانات. وكان هناك ذكران وأربع إناث في الفيديو الأول، بينما في المقطع الثاني ثلاثة ذكور وثلاث إناث. وكان لأحدهم أيضًا تسعة أرجل بدلاً من ثمانية.
أبلغ جاو الشرطة في وقت لاحق عن عملية الاحتيال، التي قررت أن مقاطع الفيديو ملفقة بالفعل واحتجزت المشتري لمدة ثمانية أيام، وفقًا لإشعار الشرطة الذي نشره جاو عبر الإنترنت. وقد لفتت هذه القضية انتباهًا واسع النطاق على وسائل التواصل الاجتماعي الصينية، ويرجع ذلك جزئيًا إلى أنها كانت أول عملية احتيال معروفة لاسترداد الأموال بواسطة الذكاء الاصطناعي من نوعها تؤدي إلى استجابة تنظيمية.
خفض الحواجز
هذه المشكلة ليست فريدة من نوعها بالنسبة للصين. وتقدر شركة Forter، وهي شركة لكشف الاحتيال ومقرها نيويورك، أن الصور المعالجة بالذكاء الاصطناعي المستخدمة في مطالبات استرداد الأموال قد زادت بأكثر من 15 بالمائة منذ بداية العام، وتستمر في الارتفاع على مستوى العالم.
“بدأ هذا الاتجاه في منتصف عام 2024، ولكنه تسارع خلال العام الماضي حيث أصبحت أدوات إنشاء الصور متاحة على نطاق واسع وسهلة الاستخدام بشكل لا يصدق.” يقول مايكل ريتبلات، الرئيس التنفيذي والمؤسس المشارك لشركة Forter. ويضيف أن الذكاء الاصطناعي ليس من الضروري أن يقوم بكل شيء بشكل صحيح، حيث قد لا يكون لدى عمال التجزئة في الخطوط الأمامية وفرق مراجعة المبالغ المستردة الوقت الكافي لتدقيق كل صورة عن كثب.
