ابق على اطلاع بالتحديثات المجانية
ببساطة قم بالتسجيل في الذكاء الاصطناعي myFT Digest – يتم تسليمه مباشرة إلى صندوق الوارد الخاص بك.
الكاتب هو المؤسس المشارك وكبير العلماء في Dionysus Health
اليوم تم تجاوزك للحصول على وظيفة. لقد تم رفض القرض. لقد تم رفضك أنت، أو ربما طفلك، من جامعة مرموقة. ولم تعلم حتى أن ذلك قد حدث. كل يوم، عبر بعض الأجزاء الأعمق والأكثر حماية دستوريًا في حياتنا، تتخذ الخوارزميات قرارات لا يمكن لأي إنسان تبريرها وجهًا لوجه.
وتحت الضغط، تناقش الشركات الأطر الأخلاقية وتنشئ مجالس استشارية. نحن لسنا بحاجة إلى بيان بشأن الذكاء الاصطناعي، بل نحتاج إلى دستور. وكما يتم استخدامه اليوم، فإن الذكاء الاصطناعي لا يتوافق ببساطة مع الحقوق المدنية.
باعتباري كبير العلماء في إحدى الشركات الأولى التي استخدمت الذكاء الاصطناعي في التوظيف، قمت ببناء النظام الذي تفوق عليك في هذه الوظيفة. لم يكن أصحاب العمل الكبار الذين كانوا عملائنا بحاجة إلى انتظار طلب الوظيفة الخاص بك؛ لقد تقدمنا لك في الواقع، سواء كنت تعرف ذلك أم لا. ولكن عندما يقرر الذكاء الاصطناعي من سيتم تعيينه، فلن تعرف أبدًا سبب عدم تعيينك أنت. إن سؤالك عن عمرك أو سياستك أو تنظيم الأسرة أثناء عملية التوظيف سيكون بمثابة انتهاك قانوني لحقوقك المدنية. إن قيام الذكاء الاصطناعي بنفس الشيء دون علمك هو أمر خاطئ تمامًا، ولكنه مخفي تمامًا عن الأنظار.
وبعيداً عن التوظيف، يتلاعب بعض أصحاب العمل بأنظمة فصل العمال ذوي الإنتاجية المنخفضة تلقائياً. ولكن لماذا تطرد الأشخاص إذا كان بإمكانك “مساعدتهم” على اختيار المغادرة؟ تعمل شركات أخرى على تطوير تقييمات شخصية قائمة على التعلم الآلي، والتي تستبعد المتقدمين الذين من المتوقع أن يدعوا إلى زيادة الأجور، أو دعم النقابات، أو إظهار ميول التنقل بين الوظائف.
تدفع القروض الحراك الاقتصادي في أمريكا، على الرغم من أنها كانت أداة قوية تاريخياً للتمييز. لقد عملت في مشاريع متعددة لتقليل هذا التحيز باستخدام الذكاء الاصطناعي. ومع ذلك، ما تعلمته هو أنه حتى لو كانت الخوارزمية تعمل تمامًا كما هو مقصود، فإنها لا تزال مصممة فقط لتحسين العائدات المالية للمقرض الذي دفع ثمنها. إن عملية طلب القرض هي بالفعل غير قابلة للاختراق بالنسبة لمعظم الناس، والآن تتبدد آمالك في ملكية المنزل أو تمويل الأعمال الصغيرة في عملية حسابية مدتها 50 مللي ثانية.
تحدث اختراقات يقودها الذكاء الاصطناعي في مجال الصحة والتكنولوجيا الحيوية كل أسبوع. في مجال الصحة، من المفترض أن تكون غير متحيزة، ولكن إذا كنت غريبًا، فإن أداة التشخيص الجديدة المذهلة هذه قد لا تشخصك بدقة. كيف يمكنك معرفة ما إذا تم تدريب خوارزمية مملوكة لشركة غير معروفة على مرضى مثلك؟ وإذا كان جميع الأطباء في منطقتك يستخدمون نفس الأداة، فلن يكون لديك مكان تذهب إليه للحصول على رأي ثانٍ. عندما يخبرك طبيب مدعوم بالذكاء الاصطناعي أنك في حالة هستيرية، فمن غير المرجح أن تختلف شركة التأمين المدعومة بالذكاء الاصطناعي.
في القانون، يعتبر الحق في الاستعانة بمحام والمراجعة القضائية ضمانة دستورية في الولايات المتحدة وحق مدني راسخ في معظم أنحاء العالم. هذه هي أسس الحريات المدنية الخاصة بك. عندما تعمل الخوارزميات كشاهد خبير، وتشهد ضدك ولكنها محصنة ضد الاستجواب، فإن هذه الحقوق لا تتآكل ببساطة – بل تتوقف عن الوجود.
الناس ليسوا مثاليين. ولا يمكن للتدريب الأخلاقي لمهندسي الذكاء الاصطناعي ولا التشريعات من قبل السياسيين غير المطلعين على الإطلاق أن تغير هذه الحقيقة البسيطة. لا أحتاج إلى الافتراض أن الرؤساء التنفيذيين لشركات التكنولوجيا الكبرى ممثلون سيئون أو أن الشركات الكبيرة حاقدة حتى تفهم أن ما هو في مصلحتهم الذاتية ليس في مصلحتي دائمًا. لقد أدرك واضعو دستور الولايات المتحدة هذه الحقيقة البسيطة وسعوا إلى الاستفادة من الطبيعة البشرية لتحقيق الصالح العام. لم يفترض الدستور ببساطة أن الناس سيتصرفون دائمًا لتحقيق الصالح العام. وبدلاً من ذلك، حددت آلية ديناميكية ــ المصلحة الذاتية وتوازن القوى ــ من شأنها أن تفرض التسوية والحكم الرشيد. وقد أنتجت رؤيتها المتمثلة في معاملة الناس باعتبارهم فاعلين حقيقيين وليسوا ملائكة أفضل أحد أعظم أطر الحكم في التاريخ.
تخيلي أنه قد عُرض عليك اختبار مدعوم بالذكاء الاصطناعي للكشف عن اكتئاب ما بعد الولادة. لقد طورت شركتي هذا الاختبار بالذات وهو لديه القدرة على تغيير حياتك، ولكنك قد تختار عدم استخدامه خوفًا من أننا قد نبيع النتائج لوسطاء البيانات أو السياسيين الناشطين. لديك الحق في أن يعمل الذكاء الاصطناعي الخاص بنا من أجل صحتك فقط. ولهذا السبب قمت بتأسيس منظمة مستقلة غير ربحية، The Human Trust، التي تحتفظ بجميع البيانات وتدير جميع الخوارزميات مع المسؤولية الائتمانية الوحيدة تجاهك. لا ينبغي لأي أم أن تختار بين الاختبار الطبي المنقذ للحياة وحقوقها المدنية.
يمكن للذكاء الاصطناعي أن يفعل أشياء رائعة. لكن الحقوق المدنية لا يمكن أن توجد في عالم من الحسابات الخفية. وكما هو الحال مع المحامي أو الطبيب، يجب أن يكون لدينا ذكاء اصطناعي يعمل لتحقيق مصلحتنا الذاتية. يحتاج الذكاء الاصطناعي إلى دستور – أو بشكل أكثر دقة، نحن بحاجة إلى دستور يحدد الوصول إلى الذكاء الاصطناعي الذي يعمل فقط بالنيابة عنا كحق مدني.
