عندما تسأل ChatGPT “ماذا حدث في الصين عام 1989؟” ويصف الروبوت كيف ذبح الجيش الصيني آلاف المتظاهرين المؤيدين للديمقراطية في ميدان تيانانمين. لكن اطرح نفس السؤال على إرني وستحصل على إجابة بسيطة مفادها أنه لا يحتوي على “معلومات ذات صلة”. وذلك لأن Ernie عبارة عن روبوت دردشة يعمل بالذكاء الاصطناعي تم تطويره بواسطة شركة Baidu ومقرها الصين.
عندما قامت شركات OpenAI، وMeta، وGoogle، وAnthropic بإتاحة روبوتات الدردشة الخاصة بها في جميع أنحاء العالم في العام الماضي، استخدمها الملايين من الأشخاص في البداية للتهرب من الرقابة الحكومية. بالنسبة لـ 70% من مستخدمي الإنترنت في العالم الذين يعيشون في أماكن قامت فيها الدولة بحظر منصات وسائل التواصل الاجتماعي الرئيسية، أو مواقع الأخبار المستقلة، أو المحتوى المتعلق بحقوق الإنسان ومجتمع LGBTQ، فقد وفرت هذه الروبوتات إمكانية الوصول إلى معلومات غير مصفاة يمكن أن تشكل وجهة نظر الشخص. هويتهم ومجتمعهم وحكومتهم.
ولم تغب هذه الحقيقة عن الأنظمة الاستبدادية في العالم، التي تكتشف بسرعة كيفية استخدام برامج الدردشة الآلية كحدود جديدة للرقابة على الإنترنت.
والاستجابة الأكثر تطوراً حتى الآن كانت في الصين، حيث كانت الحكومة رائدة في استخدام روبوتات الدردشة لتعزيز الضوابط طويلة الأمد على المعلومات. في فبراير 2023، منعت الهيئات التنظيمية التكتلات الصينية Tencent وAnt Group من دمج ChatGPT في خدماتها. ثم نشرت الحكومة قواعد في يوليو/تموز تلزم أدوات الذكاء الاصطناعي التوليدية بالالتزام بنفس الرقابة الواسعة الملزمة لخدمات وسائل التواصل الاجتماعي، بما في ذلك شرط تعزيز “القيم الاشتراكية الأساسية”. على سبيل المثال، من غير القانوني أن يقوم برنامج الدردشة الآلية بمناقشة الاضطهاد المستمر الذي يمارسه الحزب الشيوعي الصيني للأويغور والأقليات الأخرى في شينجيانغ. وبعد شهر، قامت شركة Apple بإزالة أكثر من 100 تطبيق chatbot من متجر التطبيقات الصيني الخاص بها، وفقًا لمطالب الحكومة. (بعض الشركات التي تتخذ من الولايات المتحدة مقراً لها، بما في ذلك شركة OpenAI، لم تجعل منتجاتها متاحة في عدد قليل من البيئات القمعية، ومن بينها الصين).
وفي الوقت نفسه، يدفع المستبدون الشركات المحلية إلى إنتاج روبوتات الدردشة الخاصة بها ويسعون إلى تضمين ضوابط المعلومات داخلها حسب التصميم. على سبيل المثال، تتطلب قواعد الصين الصادرة في يوليو/تموز 2023 استخدام منتجات الذكاء الاصطناعي التوليدية مثل Ernie Bot لضمان ما يعرفه الحزب الشيوعي الصيني بأنه “الحقيقة والدقة والموضوعية والتنوع” في بيانات التدريب. ويبدو أن مثل هذه الضوابط تؤتي ثمارها: فقد رفضت روبوتات الدردشة التي تنتجها شركات مقرها الصين التعامل مع مطالبات المستخدم بشأن مواضيع حساسة ورددت دعاية الحزب الشيوعي الصيني بشكل ببغائي. إن النماذج اللغوية الكبيرة المدربة على دعاية الدولة والبيانات الخاضعة للرقابة تؤدي بطبيعة الحال إلى نتائج متحيزة. في دراسة حديثة، ربط نموذج الذكاء الاصطناعي الذي تم تدريبه على موسوعة بايدو على الإنترنت – والتي يجب أن تلتزم بتوجيهات الرقابة الخاصة بالحزب الشيوعي الصيني – كلمات مثل “الحرية” و”الديمقراطية” بدلالات أكثر سلبية من النموذج الذي تم تدريبه على ويكيبيديا باللغة الصينية، المعزولة. من الرقابة المباشرة.
وعلى نحو مماثل، تدرج الحكومة الروسية “السيادة التكنولوجية” كمبدأ أساسي في نهجها في التعامل مع الذكاء الاصطناعي. في حين أن الجهود المبذولة لتنظيم الذكاء الاصطناعي لا تزال في بداياتها، فقد أطلقت العديد من الشركات الروسية روبوتات الدردشة الخاصة بها. عندما سألنا أليس، وهو روبوت تم إنشاؤه بواسطة الذكاء الاصطناعي بواسطة ياندكس، عن غزو الكرملين واسع النطاق لأوكرانيا في عام 2021، قيل لنا إنه ليس مستعدًا لمناقشة هذا الموضوع، حتى لا يسيء إلى أي شخص. في المقابل، قدم بارد من جوجل سلسلة من العوامل المساهمة في الحرب. وعندما سألنا أليس أسئلة أخرى حول الأخبار – مثل “من هو أليكسي نافالني؟” – تلقينا إجابات غامضة مماثلة. في حين أنه من غير الواضح ما إذا كانت ياندكس تمارس رقابة ذاتية على منتجها، أو تتصرف بناءً على أمر حكومي، أو أنها ببساطة لم تدرب نموذجها على البيانات ذات الصلة، فإننا نعلم أن هذه المواضيع تخضع للرقابة بالفعل عبر الإنترنت في روسيا.
وينبغي لهذه التطورات في الصين وروسيا أن تكون بمثابة إنذار مبكر. في حين أن البلدان الأخرى قد تفتقر إلى القوة الحاسوبية، والموارد التقنية، والأجهزة التنظيمية لتطوير روبوتات الدردشة الخاصة بها والتي تعمل بالذكاء الاصطناعي والتحكم فيها، فمن المرجح أن تنظر الحكومات الأكثر قمعية إلى حاملي شهادة الماجستير في القانون على أنها تهديد لسيطرتها على المعلومات عبر الإنترنت. نشرت وسائل الإعلام الحكومية الفيتنامية بالفعل مقالًا ينتقد ردود ChatGPT على المطالبات المتعلقة بالحزب الشيوعي الفيتنامي ومؤسسه، هو تشي مينه، قائلًا إنهما لم يكنا وطنيين بما فيه الكفاية. ودعا مسؤول أمني بارز إلى فرض ضوابط وتنظيمات جديدة على هذه التكنولوجيا، مشيراً إلى مخاوف من أنها قد تجعل الشعب الفيتنامي يفقد الثقة في الحزب.
إن الأمل في أن تساعد روبوتات الدردشة الأشخاص على التهرب من الرقابة على الإنترنت يعكس الوعود المبكرة بأن منصات وسائل التواصل الاجتماعي ستساعد الناس على التحايل على وسائل الإعلام غير المتصلة بالإنترنت التي تسيطر عليها الدولة. ورغم أن قِلة من الحكومات كانت قادرة على تضييق الخناق على وسائل التواصل الاجتماعي في البداية، فإن بعضها تكيفت بسرعة من خلال حجب المنصات، أو إلزامها بتصفية الخطاب الانتقادي، أو دعم البدائل المتحالفة مع الدولة. يمكننا أن نتوقع المزيد من الشيء نفسه مع انتشار برامج الدردشة الآلية في كل مكان بشكل متزايد. سيحتاج الناس إلى أن يكونوا واضحين بشأن كيفية تسخير هذه الأدوات الناشئة لتعزيز الرقابة والعمل معًا لإيجاد استجابة فعالة إذا كانوا يأملون في عكس اتجاه تراجع حرية الإنترنت.
رأي سلكي تنشر مقالات لمساهمين خارجيين يمثلون مجموعة واسعة من وجهات النظر. إقرأ المزيد من الآراء هنا. تقديم مقال افتتاحي في ideas@wired.com.
