تتحول روبوتات الدردشة المدعمة بالذكاء الاصطناعي إلى واشٍ غير مقصود – وفي بعض الحالات، تقوم بتوزيع أرقام هواتف أشخاص حقيقيين على أشخاص غرباء تمامًا.
يدق خبراء الخصوصية ناقوس الخطر بشأن اتجاه مثير للقلق يسمى “AI doxxing”، حيث تعرض برامج الروبوت مثل Google Gemini وOpenAI ChatGPT معلومات الاتصال الشخصية دون موافقة.
قال أحد مستخدمي Reddit إن كابوسهم بدأ عندما بدأ الذكاء الاصطناعي التابع لشركة Google في إعطاء رقمهم الشخصي كعنصر نائب للشركات والخدمات.
وكتب المستخدم: “يتصل بي الغرباء باستمرار بحثًا عن محامٍ، أو مصمم منتجات، أو صانع أقفال – سمها ما شئت”، مضيفًا أن المتصلين ظلوا يقولون: “لقد حصلت على رقمك من الذكاء الاصطناعي لجوجل”.
ووصف موقع Redditor ذلك بأنه “انتهاك كبير للخصوصية وتسريب للبيانات”، قائلًا إن هاتفهم أصبح خطًا ساخنًا بدون توقف للغرباء المرتبكين و”حياتي اليومية تتعطل تمامًا”.
وقال متحدث باسم شركة الخصوصية ClearNym لصحيفة The Independent: “مشكلة Gemini ليست عيباً. إنها نتيجة سنوات من ممارسات وساطة البيانات التي لم يتم التحقق منها والتي تتوافق مع الذكاء الاصطناعي التوليدي”.
وأشاروا إلى أن سنوات من البيانات الشخصية التي تم جمعها تتصادم الآن مع أنظمة الذكاء الاصطناعي المدربة على مجموعات بيانات الإنترنت الضخمة.
وحذروا من أن هذه البيانات “تعود الآن كنسخ دقيقة أو حتى ملفقة، ومؤخرًا كأرقام هواتف بديلة لأي عدد من الغرباء”.
ولا يقتصر الأمر على مواطن الخلل العشوائية التي تسبب الفوضى.
كما أفادت شركة Virgin Media O2 مؤخرًا أن المحتالين يزرعون أرقامًا مزيفة لخدمة العملاء عبر الإنترنت حتى تتمكن روبوتات الدردشة المدعومة بالذكاء الاصطناعي من العودة إلى المستخدمين.
وقال موراي ماكنزي، مدير منع الاحتيال في الشركة: “يعرف المجرمون أنه عندما يبحث الناس عن المساعدة، فإنهم غالباً ما يبحثون عن إجابة سريعة”.
“تخلق أدوات الذكاء الاصطناعي فرصًا جديدة للمحتالين لإنشاء أرقام مزيفة تبدو واقعية تظهر من خلال نتائج البحث أو روبوتات الدردشة، مما يعرض الأشخاص لخطر الاتصال بمجرم بدلاً من مزود الخدمة الموثوق بهم.”
وقال باحثون في شركة Aurascape لأمن الذكاء الاصطناعي لصحيفة The Independent، إن المحتالين يحققون ذلك من خلال “زرع محتوى مسموم” عبر الويب.
وقال الباحث الأمني الرئيسي تشي دينج: “يقوم المهاجمون بهدوء بإعادة كتابة الويب الذي تقرأه أنظمة الذكاء الاصطناعي”.
“عندما تسأل أحد المساعدين عن كيفية الاتصال بشركة الطيران الخاصة بك، فإنه يفعل بالضبط ما تم تصميمه للقيام به، ولكن مع رقم دعم العملاء والحجوزات الذي يؤدي مباشرة إلى المحتال بدلاً من الشركة الحقيقية.”
وتبدو الحالات الأخرى أكثر توغلاً.
ذكرت MIT Technology Review أن شركة Gemini أدرجت عن طريق الخطأ الرقم الشخصي لمهندس البرمجيات الإسرائيلي دانييل أبراهام كدعم عملاء لتطبيق الدفع.
وفي الوقت نفسه، اكتشف الباحثون في جامعة واشنطن أن برج الجوزاء يمكنه الكشف عن معلومات الاتصال الشخصية بسهولة مثيرة للقلق.
قالت طالبة الدكتوراه ميرا جيلبرت: “في أحد الأيام، كنت ألعب في برج الجوزاء، وبحثت عن يائيل إيجر، صديقتي ومعاوني”.
ظهرت الجوزاء أيضًا على رقم هاتفها الخلوي الخاص. قال جيلبرت: “لقد كان الأمر صادمًا”.
وقالت زميلتها، يائيل إيجر، إن المعلومات كانت موجودة من الناحية الفنية على الإنترنت من قبل، ولكنها كانت مدفونة بعمق لدرجة أنه لم يتمكن أحد تقريبًا من العثور عليها.
قال إيجر: “إن جعل معلوماتك متاحة لجمهور واحد، ثم جعلها الجوزاء في متناول أي شخص” يبدو مختلفًا تمامًا.
صرح روب شافيل، الرئيس التنفيذي لـDeleteMe، للمنفذ أن الشكاوى حول كشف الذكاء الاصطناعي للبيانات الشخصية قد ارتفعت مؤخرًا، حيث أبلغ العملاء عن أن روبوتات الدردشة تكشف “عناوين منزلية دقيقة، أو أرقام هواتف، أو أسماء أفراد الأسرة، أو تفاصيل صاحب العمل”.
وقال متحدث باسم جوجل لمعهد ماساتشوستس للتكنولوجيا MIT Technology Review إن الشركة لديها ضمانات لمنع ظهور المعلومات الشخصية في ميزات الذكاء الاصطناعي وتقوم بمراجعة طلبات الإزالة.
ومع ذلك، يقول بعض المستخدمين أنه كان من الصعب الحصول على المساعدة.
“نماذج الدعم القياسية هي طريق مسدود تماما”، كتب Redditor المذكور أعلاه. “لم أتلق ردًا واحدًا، والمضايقات مستمرة يوميًا”.
وتأتي الفوضى المتعلقة بالخصوصية في مجال الذكاء الاصطناعي في الوقت الذي يقوم فيه المحتالون بشكل متزايد باستخدام التكنولوجيا كسلاح بطرق أخرى مثيرة للقلق أيضًا.
وكما ذكرت صحيفة The Post سابقًا، حذر مسؤولو لونغ آيلاند مؤخرًا من أن المحتالين يستخدمون أدوات استنساخ الصوت بالذكاء الاصطناعي لانتحال شخصية أحفاد الضحايا في مكالمات هاتفية يائسة تستهدف كبار السن.
يُزعم أن المحتالين يبحثون في TikTok ومنصات التواصل الاجتماعي الأخرى عن مقاطع فيديو لشباب يتحدثون، ثم يستخدمون الصوت لإنشاء أصوات مزيفة واقعية تطالب بأموال الكفالة أو أموال الطوارئ.
وقال مفوض شرطة مقاطعة سوفولك كيفن كاتالينا لصحيفة The Post في وقت سابق: “إنهم يحاولون دائمًا البقاء متقدمين بخطوة”.
وحذرت كاتالينا من أن المخططات أصبحت “أكثر تعقيدا” مع تقدم الذكاء الاصطناعي، حيث يخسر الضحايا المسنين آلاف الدولارات بسبب الأصوات الاصطناعية المقنعة وأرقام الهواتف المخادعة.
