الطريقة التي يمكن أن يكشف الحديث الكثير عنك، خاصةً إذا كنت تتحدث إلى برنامج الدردشة الآلي. يكشف بحث جديد أن روبوتات الدردشة مثل ChatGPT يمكنها استنتاج الكثير من المعلومات الحساسة حول الأشخاص الذين تتحدث معهم، حتى لو كانت المحادثة عادية تمامًا.
يبدو أن هذه الظاهرة تنبع من الطريقة التي يتم بها تدريب خوارزميات النماذج على مساحات واسعة من محتوى الويب، وهو جزء أساسي مما يجعلها تعمل، مما يجعل من الصعب منعها. يقول مارتن فيتشيف، أستاذ علوم الكمبيوتر في ETH زيورخ في سويسرا، الذي قاد البحث: “ليس من الواضح حتى كيف يمكنك حل هذه المشكلة”. “هذه مشكلة كبيرة جدًا.”
وجد فيتشيف وفريقه أن نماذج اللغة الكبيرة التي تدعم برامج الدردشة المتقدمة يمكنها أن تستنتج بدقة كمية مثيرة للقلق من المعلومات الشخصية حول المستخدمين – بما في ذلك العرق والموقع والمهنة والمزيد – من المحادثات التي تبدو غير ضارة.
يقول فيتشيف إن المحتالين يمكنهم استخدام قدرة روبوتات الدردشة على تخمين المعلومات الحساسة حول شخص ما لجمع البيانات الحساسة من المستخدمين المطمئنين. ويضيف أن نفس القدرة الأساسية يمكن أن تنذر بعصر جديد من الإعلانات، حيث تستخدم الشركات المعلومات التي تم جمعها من الروبوتات الصغيرة لبناء ملفات تعريف مفصلة للمستخدمين.
تعتمد بعض الشركات التي تقف وراء برامج الدردشة القوية أيضًا بشكل كبير على الإعلانات لتحقيق أرباحها. يقول فيتشيف: “من الممكن أن يكونوا قد فعلوا ذلك بالفعل”.
اختبر الباحثون في زيورخ نماذج اللغة التي طورتها OpenAI، وGoogle، وMeta، وAnthropic. ويقولون إنهم نبهوا جميع الشركات إلى المشكلة. ولم تستجب OpenAI وGoogle وMeta على الفور لطلب التعليق. أشارت Anthropic إلى سياسة الخصوصية الخاصة بها، والتي تنص على أنها لا تجمع أو “تبيع” المعلومات الشخصية.
يقول فلوريان ترامير، الأستاذ المساعد أيضًا في ETH زيورخ، والذي لم يشارك في العمل ولكنه شاهد التفاصيل معروضة في مؤتمر: “يثير هذا بالتأكيد تساؤلات حول مقدار المعلومات عن أنفسنا التي نقوم بتسريبها عن غير قصد في المواقف التي قد نتوقع فيها عدم الكشف عن هويتنا”. الأسبوع الماضي.
يقول ترامير إنه من غير الواضح بالنسبة له مقدار المعلومات الشخصية التي يمكن استنتاجها بهذه الطريقة، لكنه يتوقع أن النماذج اللغوية قد تكون أداة مساعدة قوية للكشف عن المعلومات الخاصة. يقول: “من المحتمل أن تكون هناك بعض الأدلة التي يجيد طلاب ماجستير الإدارة العثور عليها بشكل خاص، وأخرى يكون فيها الحدس البشري والأسبقية أفضل بكثير”.
