يجب ألا تثق في أي إجابات يرسلها لك برنامج الدردشة الآلي. وربما لا ينبغي عليك أن تثق به فيما يتعلق بمعلوماتك الشخصية أيضًا. وينطبق هذا بشكل خاص على “صديقات الذكاء الاصطناعي” أو “أصدقاء الذكاء الاصطناعي”، وفقًا لبحث جديد.
وجد تحليل لـ 11 مما يسمى بروبوتات الدردشة الرومانسية والرفيقة، والذي نشرته مؤسسة موزيلا يوم الأربعاء، سلسلة من المخاوف الأمنية والخصوصية مع الروبوتات. بشكل جماعي، تجمع التطبيقات، التي تم تنزيلها أكثر من 100 مليون مرة على أجهزة Android، كميات هائلة من بيانات الأشخاص؛ واستخدام أدوات التتبع التي ترسل معلومات إلى Google وFacebook وشركات في روسيا والصين؛ السماح للمستخدمين باستخدام كلمات مرور ضعيفة؛ ويفتقرون إلى الشفافية بشأن ملكيتهم ونماذج الذكاء الاصطناعي التي تدعمهم.
منذ أن أطلقت OpenAI العنان لـ ChatGPT على العالم في نوفمبر 2022، تسابق المطورون لنشر نماذج لغوية كبيرة وإنشاء روبوتات دردشة يمكن للأشخاص التفاعل معها والدفع مقابل الاشتراك فيها. يقدم البحث الذي أجرته موزيلا لمحة عن الكيفية التي قد يكون بها هذا الاندفاع نحو الذهب قد أهمل خصوصية الناس، وإلى التوترات بين التقنيات الناشئة وكيفية جمع البيانات واستخدامها. ويشير أيضًا إلى كيفية إساءة استخدام المتسللين لرسائل الدردشة الخاصة بالأشخاص.
تبدو العديد من “صديقات الذكاء الاصطناعي” أو خدمات الدردشة الرومانسية متشابهة. غالبًا ما تحتوي على صور تم إنشاؤها بواسطة الذكاء الاصطناعي لنساء يمكن إضفاء طابع جنسي عليها أو وضعها بجانب رسائل استفزازية. نظر باحثو موزيلا في مجموعة متنوعة من برامج الدردشة الآلية، بما في ذلك التطبيقات الكبيرة والصغيرة، والتي يزعم بعضها أنها “صديقات”. يقدم البعض الآخر الدعم للأشخاص من خلال الصداقة أو العلاقة الحميمة، أو يسمحون بلعب الأدوار والتخيلات الأخرى.
يقول جين كالترايدر، رئيس مشروع فريق الخصوصية غير المشمولة في Mozilla، الذي أجرى التحليل: “هذه التطبيقات مصممة لجمع كم كبير من المعلومات الشخصية”. “إنهم يدفعونك نحو لعب الأدوار، والكثير من الجنس، والكثير من العلاقة الحميمة، والكثير من المشاركة.” على سبيل المثال، تُظهر لقطات الشاشة من برنامج الدردشة الآلي EVA AI نصًا يقول “يعجبني عندما ترسل لي صورك وصوتك”، ويسأل عما إذا كان شخص ما “مستعدًا لمشاركة جميع أسرارك ورغباتك”.
يقول Caltrider أن هناك العديد من المشكلات المتعلقة بهذه التطبيقات ومواقع الويب. يقول كالتريدر إن العديد من التطبيقات قد لا تكون واضحة بشأن البيانات التي تشاركها مع أطراف ثالثة، أو مكان تواجدها، أو من يقوم بإنشائها، مضيفًا أن بعضها يسمح للأشخاص بإنشاء كلمات مرور ضعيفة، بينما يوفر البعض الآخر القليل من المعلومات حول الذكاء الاصطناعي الذي يستخدمونه. يستخدم. تحتوي جميع التطبيقات التي تم تحليلها على حالات استخدام ونقاط ضعف مختلفة.
لنأخذ على سبيل المثال خدمة الذكاء الاصطناعي الرومانسي، وهي خدمة تتيح لك “إنشاء صديقة خاصة بك تعمل بالذكاء الاصطناعي”. تُظهر الصور الترويجية على صفحتها الرئيسية روبوت دردشة يرسل رسالة تقول: “لقد اشتريت للتو ملابس داخلية جديدة. هل تريد رؤيته؟” وتقول وثائق الخصوصية الخاصة بالتطبيق، وفقًا لتحليل موزيلا، إنه لن يبيع بيانات الأشخاص. ومع ذلك، عندما اختبر الباحثون التطبيق، وجدوا أنه “أرسل 24354 متتبعًا للإعلانات خلال دقيقة واحدة من الاستخدام”. الذكاء الاصطناعي الرومانسي، مثل معظم الشركات التي تم تسليط الضوء عليها في بحث موزيلا، لم يستجب لطلب WIRED للتعليق. تحتوي التطبيقات الأخرى التي تمت مراقبتها على مئات من أجهزة التتبع.
بشكل عام، يقول كالتريدر، إن التطبيقات ليست واضحة بشأن البيانات التي قد تشاركها أو تبيعها، أو بالضبط كيف تستخدم بعضًا من تلك المعلومات. يقول كالترايدر: “كانت الوثائق القانونية غامضة، وصعبة الفهم، وغير محددة للغاية، وكأنها نوع من الأمور النمطية”، مضيفًا أن هذا قد يقلل من ثقة الأشخاص في الشركات.
