جميع أنظمة الذكاء الـ 400 المكشوف التي عثر عليها من قبل UpGuard لها شيء واحد مشترك: يستخدمون إطار عمل AI مفتوح المصدر يسمى llama.cpp. يتيح هذا البرنامج للأشخاص نشر نماذج AI مفتوحة المصدر بسهولة على أنظمتهم أو خوادمهم الخاصة. ومع ذلك ، إذا لم يتم إعداده بشكل صحيح ، فيمكنه فضح المطالبات التي يتم إرسالها عن غير قصد. نظرًا لأن الشركات والمؤسسات من جميع الأحجام تنشر الذكاء الاصطناعي ، فإن تكوين الأنظمة والبنية التحتية المستخدمة بشكل صحيح أمر بالغ الأهمية لمنع التسريبات.
أدت التحسينات السريعة على الذكاء الاصطناعي على مدى السنوات الثلاث الماضية إلى انفجار في رفاق الذكاء الاصطناعي والأنظمة التي تبدو أكثر “إنسانية”. على سبيل المثال ، جربت Meta شخصيات منظمة العفو الدولية التي يمكن للأشخاص الدردشة معها على WhatsApp و Instagram و Messenger. بشكل عام ، تتيح مواقع الويب والتطبيقات المصاحبة للأشخاص إجراء محادثات مجانية مع شخصيات الذكاء الاصطناعى-شخصيات ذات شخصيات قابلة للتخصيص أو كشخصيات عامة مثل المشاهير.
لقد وجد الناس الصداقة والدعم من محادثاتهم مع الذكاء الاصطناعى – وليس جميعهم يشجعون السيناريوهات الرومانسية أو الجنسية. ربما لا يثير الدهشة ، فقد وقع الناس في حب شخصياتهم منظمة العفو الدولية ، وقد ظهرت عشرات خدمات صديقتها وخدمات صديقها في السنوات الأخيرة.
تقول كلير بوين ، زميلة أبحاث ما بعد الدكتوراه في كلية الحقوق بجامعة واشنطن وشركة تابعة لمعهد كورديل ، إن ملايين الأشخاص ، بمن فيهم البالغون والمراهقين ، يستخدمون تطبيقات مرافقة عامة منظمة العفو الدولية. يقول بوين ، الذي نشر أبحاثًا حول هذا الموضوع: “نحن نعلم أن العديد من الأشخاص يطورون بعض الرابطة العاطفية مع chatbots”. “الأشخاص الذين يرتبطون عاطفياً مع رفاقهم من الذكاء الاصطناعي ، على سبيل المثال ، يجعلهم أكثر عرضة للكشف عن معلومات شخصية أو حميمة.”
ومع ذلك ، يقول بوين ، غالبًا ما يكون هناك اختلال في القوة في أن يصبح مرتبطًا عاطفياً بمنظمة العفو الدولية التي أنشأها كيان شركة. يقول بوين: “في بعض الأحيان ، يتعامل الناس مع تلك الدردشات في المقام الأول لتطوير هذا النوع من العلاقة”. “لكن بعد ذلك أشعر أنني بمجرد تطويرها ، لا يمكنهم حقًا إلغاء الاشتراك في ذلك بسهولة.”
مع نمو صناعة AI Companion ، تفتقر بعض هذه الخدمات إلى اعتدال المحتوى وغيرها من الضوابط. يتم مقاضاة الشخصية AI ، التي تدعمها Google ، بعد وفاة مراهق من فلوريدا بالانتحار بعد أن أصبح مهووسًا بأحد الدردشة. (لقد زادت AI AI من أدوات السلامة مع مرور الوقت.) بشكل منفصل ، تم رفع مستخدمي أداة AI AI REPLIKA عندما أجرت الشركة تغييرات على شخصياتها.
بصرف النظر عن الصحابة الفردية ، هناك أيضًا خدمات مرافقة للتشغيل والخيال-كلها مع الآلاف من الأشخاص الذين يمكنهم التحدث معهم-التي تضع المستخدم كشخصية في سيناريو. بعض هذه يمكن أن تكون جنسية للغاية وتوفر دردشات NSFW. يمكنهم استخدام شخصيات أنيمي ، وبعضها يبدو صغيراً ، حيث يزعم بعض المواقع أنها تسمح بمحادثات “غير خاضعة للرقابة”.
يقول آدم دودج ، مؤسس Endtab (إنهاء سوء المعاملة التي تدعم التكنولوجيا): “إننا نؤكد على اختبار هذه الأشياء وما زلنا مندهشين للغاية مما يُسمح لهذه المنصات بأن تقوله وفعله مع عدم وجود تنظيم أو قيود على ما يبدو”. “هذا ليس حتى عن بعد على رادار الناس حتى الآن.” يقول دودج إن هذه التقنيات تفتح حقبة جديدة من المواد الإباحية عبر الإنترنت ، والتي بدورها يمكن أن تقدم مشاكل مجتمعية جديدة مع استمرار التكنولوجيا في النضج والتحسن. يقول عن بعض المواقع: “أصبح المستخدمون السلبيون الآن مشاركين نشطين لديهم سيطرة غير مسبوقة على الأجسام الرقمية وآثار الشبه للنساء والفتيات”.
