مثل الولايات المتحدة تكافح الحكومة الفيدرالية من أجل تنظيم الذكاء الاصطناعي بشكل هادف – أو حتى أداء وظيفته – وتتدخل مدينة نيويورك في سد فجوة الحوكمة.
قدمت المدينة خطة عمل للذكاء الاصطناعي هذا الأسبوع، والتي وصفها عمدة المدينة إريك آدامز بأنها الأولى من نوعها في البلاد. تم تصميم مجموعة مكونة من 40 مبادرة سياسية تقريبًا لحماية السكان من الأذى مثل التحيز أو التمييز من الذكاء الاصطناعي. ويتضمن تطوير معايير الذكاء الاصطناعي التي اشترتها وكالات المدينة وآليات جديدة لقياس مخاطر الذكاء الاصطناعي الذي تستخدمه إدارات المدينة.
ومن الممكن أن يتوسع تنظيم الذكاء الاصطناعي في نيويورك قريبًا. قدمت عضو مجلس المدينة جينيفر جوتيريز، رئيسة لجنة التكنولوجيا بالهيئة، اليوم تشريعًا من شأنه إنشاء مكتب لسلامة البيانات الخوارزمية للإشراف على الذكاء الاصطناعي في نيويورك.
إذا تم إنشاؤه، فسوف يوفر المكتب مكانًا للمواطنين لتلقي الشكاوى حول أنظمة صنع القرار الآلية التي تستخدمها الوكالات العامة، ويعمل كأمين المظالم للخوارزميات في الأحياء الخمسة. كما سيتم أيضًا تقييم أنظمة الذكاء الاصطناعي قبل نشرها في المدينة بحثًا عن التحيز والتمييز.
اقترح العديد من أعضاء مجلس الشيوخ الأمريكي إنشاء وكالة فيدرالية جديدة لتنظيم الذكاء الاصطناعي في وقت سابق من هذا العام، لكن جوتيريز تقول إنها تعلمت أنه لا فائدة من انتظار اتخاذ إجراء في واشنطن العاصمة. وتقول: “لدينا مسؤولية فريدة من نوعها لأن الكثير من الابتكار يعيش هنا”. “من المهم حقًا بالنسبة لنا أن نأخذ زمام المبادرة.”
وتقول إن جوتيريز تدعم متطلبات اختبار الخوارزميات التي تستخدمها حكومة المدينة، لأن الذكاء الاصطناعي بدأ يستخدم على نطاق واسع. تهتم إدارات المدينة باستخدام برامج الذكاء الاصطناعي في المهام الإدارية مثل تقييم خطر تعرض الطفل للإساءة، أو معدلات تعلم الطلاب. كما أنها تشعر بالقلق من ولع رئيس البلدية إريك آدامز بالتكنولوجيا مثل الكلاب الآلية والذكاء الاصطناعي لإجراء مكالمات آلية باللغات التي لا يتحدثها. تتمتع مدينة نيويورك بسمعة باعتبارها ساحة اختبار لتكنولوجيا المراقبة، من الارتفاع الأخير في استخدام الطائرات بدون طيار إلى الاستخدام المشكوك فيه للتعرف على الوجوه في المساكن والملاعب، ومن قبل الشرطة.
كانت نيويورك متقدمة على الحكومة الفيدرالية فيما يتعلق بتنظيم الذكاء الاصطناعي حتى قبل هذا الأسبوع. تم تشكيل فريق عمل بالمدينة في عام 2018 لتقييم استخدامها لهذه التكنولوجيا. دخل القانون الذي يتطلب خوارزميات التوظيف التي تستخدمها الشركات للتحقق من التحيز حيز التنفيذ في وقت سابق من هذا العام. ولكن تم طلب بعض وسائل الحماية مرة أخرى. في يناير 2022، ألغى آدامز أمرًا تنفيذيًا وقعه سلفه، بيل دي بلاسيو، والذي أنشأ مسؤولًا عن إدارة الخوارزميات والسياسات للعمل مع وكالات المدينة على نشر الذكاء الاصطناعي بطريقة عادلة. وذكر تقرير صادر عن الضابط في عام 2020 أن وكالات المدينة استخدمت 16 نوعًا من الخوارزميات التي لها تأثير كبير محتمل على حقوق الناس، لكنها لم تقم بمسح كل نموذج للذكاء الاصطناعي تستخدمه إدارة شرطة مدينة نيويورك.
تقول جوتيريز إنها لا تزال لا تملك فهمًا شاملاً للخوارزميات التي تستخدمها وكالات المدينة. وجدت مراجعة أصدرها مراقب ولاية نيويورك في فبراير أن المدينة لديها نهج مخصص وغير مكتمل لحوكمة الذكاء الاصطناعي. وحذرت من أن هذا يعني أن المدينة لا تستطيع “التأكد من أن استخدام المدينة للذكاء الاصطناعي يتسم بالشفافية والدقة وعدم التحيز ويتجنب التأثيرات المتباينة”.
