الخوارزمية تقرر ما نراه، وآخر يقوم بتصفية ما نقرأه، وآخرون يدخلون في العمليات التي تحكم العمل والمعلومات والاختيارات الجماعية. في المنشور ماجنيفيكا هيومانيتاس. أول توقيع وقعه البابا ليو الرابع عشر ونشر في 25 مايو، لا يُنظر إلى الذكاء الاصطناعي على أنه مجرد تكنولوجيا أخرى؛ إنها جزء من البنية التحتية غير المرئية لحياتنا اليومية المعاصرة.
لكن النص لا يُنظر إليه على أنه انعكاس تكنولوجي حصري. يضع البابا لاوون الرابع عشر مسألة الذكاء الاصطناعي ضمن تقاليد العقيدة الاجتماعية للكنيسة الكاثوليكية ويستحضر بشكل مباشر – أثناء تحديثها – ريروم نوفاروم البابا لاون الثالث عشر (نُشر في 15 مايو 1891) في عام الذكرى 135 لتأسيسه. تناولت هذه الرسالة العامة مسألة العمل في ذروة الثورة الصناعية في أواخر القرن التاسع عشر.
وإذا كانت “الدقة الجديدة” في ذلك الوقت هي المصانع، والعمل، والرأسمالية الصناعية، فإن القضايا الجديدة اليوم تدور حول المنصات الرقمية، والخوارزميات، والبيانات، وأنظمة التشغيل الآلي التي تعيد تشكيل السلطة، والاقتصاد، والعلاقات الاجتماعية. ولهذا السبب، لا تقدم الرسالة العامة نفسها كنص تقني حول الابتكار، بل كمحاولة لتفسير التحول الرقمي في ضوء كرامة الإنسان والصالح العام. يكتب البابا أن التكنولوجيا ليست شرًا في حد ذاتها؛ بل على العكس من ذلك، فهو ينتمي إلى تاريخ الإنسان وإبداعه. لكن الوضع الحالي مختلف من حيث الحجم والعمق: “لم تتمتع البشرية قط بهذا القدر من السلطة على نفسها”، كما يلاحظ النص، واصفًا التقنيات التي تشكل الآن عمليات صنع القرار، والخيال الجماعي، والحياة الاجتماعية بطريقة متزايدة الانتشار.
من هذه النقطة اختار روبرت فرانسيس بريفوست أن يبدأ: من التركيز المتزايد للسلطة التي تمارس من خلال أنظمة أصبحت غامضة بشكل متزايد ولكنها حاسمة بشكل متزايد، ومن السؤال الذي يدور في جميع أنحاء الرسالة العامة: ما الذي يبقى من الكرامة الإنسانية، وحماية الحقيقة، والعمل، والعدالة الاجتماعية، والسلام عندما يتم نقل القرارات إلى المنطق الخوارزمي؟
تكنولوجيا نزع السلاح
في الرسالة العامة هناك عبارة تصبح المفتاح لتفسير السيناريو برمته: “نزع سلاح التكنولوجيا”. والمعنى بعيد كل البعد عن أي محاولة لإبطاء تطور الذكاء الاصطناعي أو إنكار تأثيره التحويلي المحتمل إلى الأبد. بالنسبة لروبرت فرانسيس بريفوست، فإن نزع سلاح الذكاء الاصطناعي يعني منعه من أن يصبح شكلاً من أشكال القوة القادرة على السيطرة على الوجود البشري.
بالنسبة لليو الرابع عشر، فإن النقطة ليست التكنولوجيا نفسها، ولكن تنظيمها وتطبيقها. يكتب البابا أن الذكاء الاصطناعي جزء من سباق عالمي اليوم نحو “الخوارزمية الأعلى أداءً” و”أكبر مركز بيانات”، حيث تصبح الميزة التنافسية أيضًا جيوسياسية. وفي هذا السياق، يركز عدد قليل من اللاعبين على البنية التحتية الرقمية، والبيانات، والقدرة الحاسوبية، وهو ما يؤثر على المعلومات والاقتصاد، بل وحتى الديمقراطية.
إن نزع السلاح يعني كسر هذه المعادلة بين القوة التقنية وحق الحكم. يشرح البابا: “كما يحدث مع كل نقطة تحول تكنولوجية كبرى، يميل الذكاء الاصطناعي قبل كل شيء إلى زيادة قوة أولئك الذين يمتلكون بالفعل الموارد الاقتصادية والقدرة على الوصول إلى البيانات”.
بعبارات صريحة، تنص الرسالة العامة على أنه لا يكفي مجرد تنظيم التكنولوجيا: بل يجب انتزاعها من الاحتكارات، وجعلها شفافة ومفتوحة للتحدي – أي جعلها “صالحة للسكن” من قبل عدد وافر من الجهات الفاعلة. وفي المقام الأول من الأهمية، لا بد من منع الذكاء الاصطناعي من التحول إلى أداة للهيمنة الاقتصادية أو السياسية أو العسكرية من قِبَل قِلة مختارة. وهذه ليست استعارة أخلاقية: إنها دعوة لمنع منطق المنافسة من تحويل البنية التحتية المشتركة إلى نظام سيطرة.
الحقيقة ضمن الأنظمة التي تختار الواقع
إذا كانت التكنولوجيا تعمل على تركيز القوة، فإن أحد التأثيرات الملموسة الأولى يتعلق بالطريقة التي تتشكل بها الحقيقة الجماعية. تتناول الرسالة العامة مسألة التضليل، ولكن بطريقة أعمق بالتأكيد لأن الواقع المتصور، أو بالأحرى التجربة، يتم تصفيته بشكل متزايد من قبل الأنظمة التي تقرر ما يجب إظهاره وما يجب إخفاءه.
لا يتعلق الأمر فقط بالأخبار المزيفة أو المحتوى المزيف بأشكال مختلفة. تكمن المشكلة في أن المنصات والخوارزميات تختار المعلومات بناءً على معايير تعظيم الاهتمام والمشاركة. وبعبارة أخرى، فإن ما يصبح مرئيًا ليس بالضرورة هو الأكثر صحة، بل هو ما يعمل بشكل أفضل في توليد ردود الفعل. وهكذا لا تختفي الحقيقة، بل تصبح مرهونة بأنظمة مبهمة تؤثر في الآراء والتصورات والاختيارات الجماعية دون أن يكون واضحا دائما كيف.
