إذا كنت قلقًا من أن خوارزميات فحص المرشحين قد تقف حائلًا بينك وبين وظيفة أحلامك، فاقرأ كتاب هيلك شيلمان الخوارزمية لن يخفف عقلك. يزيل الكتاب الجديد للمراسل الاستقصائي وأستاذ الصحافة بجامعة نيويورك الغموض عن كيفية استخدام أقسام الموارد البشرية لبرامج التشغيل الآلي التي لا تنشر التحيز فحسب، بل تفشل في الشيء الذي تدعي القيام به: العثور على أفضل مرشح للوظيفة.
تظاهر شيلمان بأنه باحث عن عمل لاختبار بعض هذه البرامج، والتي تتراوح من فحص السيرة الذاتية والاختبارات القائمة على ألعاب الفيديو إلى تقييمات الشخصية التي تحلل تعابير الوجه، والنغمات الصوتية، وسلوك وسائل التواصل الاجتماعي. وقد صنفتها إحدى الأدوات على أنها مناسبة جدًا لوظيفة ما، على الرغم من أنها كانت تتحدث باللغة الألمانية بطريقة لا معنى لها. أعطتها خوارزمية تقييم الشخصية درجات عالية من حيث “الثبات” بناءً على استخدامها لتويتر وتقييم منخفض بناءً على ملفها الشخصي على LinkedIn.
يكفي أن تجعلك ترغب في حذف حسابك على LinkedIn وتبني العيش في المنزل، لكن لدى شيلمان رؤى رائعة أيضًا. وفي مقابلة تم تحريرها من أجل الطول والوضوح، اقترحت كيف يمكن للمجتمع كبح جماح تكنولوجيا الموارد البشرية المتحيزة وقدمت نصائح عملية للباحثين عن عمل حول كيفية التغلب على الروبوتات.
كايتلين هارينجتون: لقد أبلغت عن استخدام الذكاء الاصطناعي في التوظيف صحيفة وول ستريت جورنال, مراجعة تكنولوجيا معهد ماساتشوستس للتكنولوجيا، و الحارس على مدى السنوات العديدة الماضية. في أي نقطة كنت تعتقد أنني حصلت على كتاب هنا؟
هيلك شيلمان: كان الأمر الأول عندما ذهبت إلى أحد مؤتمرات تكنولوجيا الموارد البشرية الأولى في عام 2018 وواجهت أدوات الذكاء الاصطناعي التي تدخل السوق. كان هناك حوالي 10000 شخص، ومئات البائعين، والكثير من المشترين والشركات الكبرى. أدركت أن هذا كان سوقًا ضخمًا، وأنه كان يسيطر على الموارد البشرية.
غالبًا ما تقدم شركات البرمجيات منتجاتها كوسيلة لإزالة التحيز البشري في التوظيف. ولكن بالطبع يمكن للذكاء الاصطناعي استيعاب وإعادة إنتاج تحيز بيانات التدريب التي يستوعبها. لقد اكتشفت إحدى أدوات فحص السيرة الذاتية التي قامت بتعديل درجات المرشح عندما اكتشفت عبارة “أمريكي من أصل أفريقي” في سيرته الذاتية.
شيلمان: بالطبع ستقول الشركات أن أدواتها لا تحتوي على تحيز، ولكن كيف تم اختبارها؟ هل بحث أحد في هذا وهو لا يعمل في الشركة؟ ذكر دليل إحدى الشركات أن الذكاء الاصطناعي الخاص بالتوظيف تم تدريبه على بيانات طلاب جامعيين تتراوح أعمارهم بين 18 و25 عامًا. ربما وجدوا للتو شيئًا خاصًا جدًا بالأشخاص الذين تتراوح أعمارهم بين 18 و25 عامًا، ولا ينطبق على العمال الآخرين الذين تم استخدام الأداة عليهم.
لا يوجد سوى قدر كبير من الضرر الذي يمكن أن يحدثه مدير التوظيف البشري، ومن الواضح أننا يجب أن نحاول منع ذلك. لكن الخوارزمية المستخدمة لتسجيل مئات الآلاف من العمال، إذا كانت معيبة، يمكن أن تلحق الضرر بعدد أكبر من الأشخاص أكثر من أي إنسان واحد.
من الواضح الآن أن البائعين لا يريدون أن ينظر الناس إلى الصناديق السوداء. لكنني أعتقد أن أصحاب العمل يخجلون أيضًا من البحث لأنه سيكون لديهم عندئذٍ قدر معقول من الإنكار. إذا وجدوا أي مشاكل، فقد يكون هناك 500000 شخص تقدموا للحصول على وظيفة وقد يكون لديهم مطالبة. ولهذا السبب نحتاج إلى فرض المزيد من الشفافية والاختبار.
