مدينة نيويورك تطالب بإجراء تدقيقات للتحيز في تكنولوجيا الموارد البشرية القائمة على الذكاء الاصطناعي

أقرت مدينة نيويورك قانونًا هو الأول من نوعه يحظر على أرباب العمل استخدام تقنيات الذكاء الاصطناعي والتقنيات القائمة على الخوارزميات في عمليات التوظيف أو التعيين أو الترقية دون إجراء تدقيق مسبق لهذه الأدوات للتأكد من خلوها من التحيز.

سمح بيل دي بلاسيو، عمدة مدينة نيويورك المنتهية ولايته، في 10 ديسمبر بتحويل مشروع القانون إلى قانون دون التوقيع عليه. ويدخل القانون حيز التنفيذ في 2 يناير 2023، ولا ينطبق إلا على قرارات تقييم المرشحين للوظائف أو الموظفين للترقية من المقيمين في مدينة نيويورك، لكنه ينذر بما سيحدث في المستقبل لأصحاب العمل في جميع أنحاء البلاد.

قال مارك جيروارد، المحامي في مكتب مينيابوليس التابع لشركة «نيلان جونسون لويس»، والذي يقدم في إطار عمله الاستشارات لأصحاب العمل بشأن تقييمات ما قبل التوظيف: «إذا كان أصحاب العمل في مدينة نيويورك «يستخدمون أداة اختيار تعتمد على الذكاء الاصطناعي، سواء كانت تقييمات ما قبل التوظيف أو مقابلات بالفيديو يتم تقييمها بواسطة الذكاء الاصطناعي أو أي أداة اختيار أخرى تستخدم الذكاء الاصطناعي، فمن المرجح أن يخضعوا لهذا القانون الجديد».

وأضاف أنه "سيتعين عليهم البدء في الاستعانة بطرف ثالث لإجراء تدقيقات للتحيز في تلك الأدوات، بهدف اختبار تأثيرها التبايني — أي سياسة محايدة قد تؤدي إلى التمييز — على أساس العرق أو الأصل الإثني أو الجنس".

يُعرّف القانون أدوات اتخاذ القرارات التوظيفية الآلية بأنها «أي عملية حسابية، مستمدة من التعلم الآلي أو النمذجة الإحصائية أو تحليل البيانات أو الذكاء الاصطناعي»، تقوم بتقييم المرشحين أو تصنيفهم أو تقديم توصيات بشأنهم بأي شكل آخر، وتُستخدم لمساعدة صاحب العمل في عملية اتخاذ القرار أو لتحل محلها.

وقال جيروارد: "التعريف واسع جدًا". "ليس من الواضح ما إذا كان القانون يشمل أدوات الذكاء الاصطناعي البحتة فقط أم أنه يشمل مجموعة أوسع من أدوات الاختيار. فإذا استخدم صاحب العمل، على سبيل المثال، اختبارًا تقليديًا للشخصية قبل التوظيف، يتم تقييمه بواسطة خوارزمية تعتمد على الترجيح ومزيج من العناصر، فقد يُدرج ذلك ضمن نطاق القانون — لكننا لسنا متأكدين"، على حد قوله.

وأضاف ماثيو جيدريسكي، المحامي في مكتب سياتل التابع لشركة "ديفيس رايت تريمين" وعضو فريق الذكاء الاصطناعي بالشركة، أن القانون قد "يشمل عددًا لا يحصى من التقنيات التي يستخدمها العديد من أرباب العمل، بما في ذلك البرامج التي تبحث عن المرشحين، وتقوم بالمراجعة الأولية للسير الذاتية، وتساعد في تصنيف المتقدمين، أو تتعقب أداء الموظفين".

أحكام القانون

بموجب القانون، سيُحظر على أرباب العمل استخدام أدوات تعتمد على الذكاء الاصطناعي لفرز المتقدمين للوظائف أو تقييم الموظفين، ما لم تكن هذه التكنولوجيا قد خضعت لتدقيق للتأكد من خلوها من التحيز قبل عام واحد على الأكثر من تاريخ استخدامها، وما لم يتم نشر ملخص لنتائج هذا التدقيق على الموقع الإلكتروني الخاص بصاحب العمل.

وقال جيروارد إنه من غير الواضح متى وكم مرة سيتعين تحديث تدقيق التحيز، وما إذا كان المقصود من التدقيق هو تغطية عملية التوظيف التي يتبعها صاحب العمل بالاقتران مع الأداة، أم الأداة نفسها بشكل عام.

قد يتعرض أصحاب العمل الذين لا يلتزمون بهذه الشروط لغرامة تصل إلى 500 دولار في حالة المخالفة الأولى، ثم يُعاقبون بغرامات تتراوح بين 500 و1,500 دولار يوميًا عن كل مخالفة لاحقة.

تُعد فريدا بولي، المؤسِّسة المشاركة والرئيسة التنفيذية لشركة «Pymetrics» — وهي منصة لمطابقة المواهب تستخدم علم السلوك والذكاء الاصطناعي — واحدة من أبرز المدافعين عن الحد من التحيز في مجال التكنولوجيا.

ولهذا الغرض، تعمل شركتها على ضمان ألا يكون لخوارزميات أداتها أي تأثير تمييزي.

وقالت: "لدينا إجراءات تمر بها الخوارزميات قبل إنشائها، تضمن أنها تتجاوز الحد الذي يشكل تأثيرًا تمييزيًا". "نقوم باختبار ذلك ونواصل مراقبته بمجرد بدء تشغيله".

وقال جيروارد إن القانون يقتضي أيضًا من أرباب العمل إخطار المرشحين قبل استخدام هذه التكنولوجيا، والكشف عن المؤهلات أو الخصائص التي تقوم الأداة بتقييمها.

وقال جيدريسكي: "من المرجح أن يشكل شرط توضيح كيفية قيام الأداة بتحليل الخصائص المختلفة تحديات خاصة لأصحاب العمل الذين يستخدمون برامج مصنعة من قبل موردين، حيث إن هؤلاء الموردين غالبًا ما يحافظون على سرية طريقة عمل أدواتهم باعتبارها أسرارًا تجارية أو بموجب اتفاقيات السرية".

كما يمكن للمرشحين والموظفين طلب "إجراء بديل أو تسهيلات" بدلاً من الخضوع للتقييم باستخدام هذه التقنية.

وقال جيروارد إن قانون مدينة نيويورك يسلط الضوء على بعض الاتجاهات السائدة التي يجب على أرباب العمل أن يكونوا على دراية بها، بما في ذلك التركيز على الشفافية، وأهمية قابلية التفسير (يجب أن تكون هناك سمة أو مؤهل متعلق بالوظيفة يتم تقييمه)، وبشكل متزايد، مفهوم «الموافقة المستنيرة» — سواء كانت القدرة على الانسحاب أو على الأقل الالتزام بإخطار المرشحين باستخدام الذكاء الاصطناعي، على حد قوله.

وقال جيروارد إن قانون مدينة نيويورك ليس سوى غيض من فيض مما هو آتٍ. فقد أشارت لجنة تكافؤ فرص العمل الأمريكية مؤخرًا إلى أنها ستكثف فحصها للأدوات التي تعمل بالذكاء الاصطناعي. لكنه أضاف أنه إلى أن تنشر الوكالة إرشادات رسمية، ستستمر الولايات والبلديات في سد هذه الفجوة.

"خطوة جيدة"

أثارت النسخة النهائية المعتمدة من قانون مدينة نيويورك ردود فعل متنوعة، حتى بين مؤيدي فرض رقابة أشد على تكنولوجيا الذكاء الاصطناعي الذين كانوا قد دافعوا عن ذلك منذ البداية.

تؤيد بولي هذا القانون، واصفة إياه بأنه "خطوة جيدة في الاتجاه الصحيح".

وقالت إن القانون يتضمن عدة عناصر مهمة، منها أحكام تتعلق بإخطار المرشحين، والشفافية بشأن البيانات التي يتم تقييمها، واختبار التأثير التمييزي.

وقالت: "في الوقت الحالي، لا يوجد مكان يمكن الرجوع إليه لمعرفة عتبات التأثير المتباين بين المنصات المختلفة ومقارنتها ببعضها البعض". "لا يوجد أي تقييم علني لهذه المنتجات بأي شكل من الأشكال. وسيكون الإبلاغ العلني مفيدًا لأصحاب العمل في اتخاذ قرارات أفضل، وفي إطلاع الجمهور عمومًا على مستوى أداء الكثير من هذه التقنيات".

ترى جوليا ستويانوفيتش، أستاذة علوم الحاسوب والبيانات في جامعة نيويورك والمديرة المؤسسة لمركز الذكاء الاصطناعي المسؤول التابع للجامعة، أن القانون يمثل «تطوراً إيجابياً كبيراً»، لا سيما البنود المتعلقة بالإفصاح التي تُطلع المرشحين على الإجراءات المتخذة.

وقالت: "يدعم القانون مبدأ الموافقة المستنيرة، وهو أمر بالغ الأهمية، وقد كان غائبًا تمامًا حتى الآن". "كما يدعم القانون أيضًا شكلاً محدودًا على الأقل من سبل الانتصاف، مما يتيح للمرشحين طلب توفير تسهيلات أو الطعن في الإجراءات".

"معيب للغاية"

لكن بعض نشطاء حقوق الإنترنت أعربوا عن خيبة أملهم إزاء النص التشريعي النهائي.

ووصف «مركز الديمقراطية والتكنولوجيا» (CDT) في واشنطن العاصمة هذا المعيار بأنه «معيب للغاية» و«ضعيف»، ولا يرقى إلى المستوى المطلوب للحد من التحيز في تكنولوجيا الذكاء الاصطناعي في مجال التوظيف.  

قال ماثيو شيرر، كبير مستشاري السياسات المعني بخصوصية العمال في مركز الديمقراطية والتكنولوجيا (CDT): "كان من الممكن أن يكون مشروع قانون مدينة نيويورك نموذجًا تحتذي به السلطات القضائية في جميع أنحاء البلاد، لكنه بدلاً من ذلك يمثل فرصة ضائعة لم تُحمل الشركات المسؤولية، وتركت أشكالًا مهمة من التمييز دون معالجة".

قال شيرر إن أسوأ ما في التشريع المعدل — مقارنة بمسودته الأصلية — هو أنه يقتصر على إلزام الشركات بإجراء تدقيق للتأكد من عدم وجود تمييز على أساس العرق أو الجنس، متجاهلاً أشكال التمييز الأخرى. وأضاف أنه بدلاً من تقييم مدى امتثال الأداة لجميع قوانين مكافحة التمييز التي تشمل مجموعة كاملة من السمات المحمية، فإن القانون لا يلزم أرباب العمل بأي إجراءات إضافية غير تلك التي يُلزمون بها بالفعل.

وقال: "إن الأثر الرئيسي لهذه التعديلات هو، بالتالي، إزالة أي حافز لدى أرباب العمل للتحقق من وجود أشكال أخرى من التمييز، مثل التمييز ضد العمال ذوي الإعاقة أو كبار السن أو أفراد مجتمع الميم".

وردت بولي بأن التحدي الذي يواجه إدراج العمر والإعاقة في اختبارات التأثير التبايني هو «أننا لا نحصل على هذه المعلومات من المرشحين — فمن غير القانوني سؤال المرشح عن إعاقته»، على حد قولها. «أوافق على أنه ينبغي وضع ضمانات أفضل، وقد ابتكرنا حلاً بديلاً في Pymetrics، باستخدام المعدلات السابقة للأشخاص الذين اختاروا التسهيلات مقابل أولئك الذين لم يفعلوا، لكن هذه تحديات حقيقية يتعين علينا إيجاد طريقة للتغلب عليها».

وقالت ريدهي شيتي، مستشارة السياسات في مركز التكنولوجيا الديمقراطية (CDT)، إن النسخة النهائية من القانون تضيق نطاق الأشخاص والمجالات التي يشملها. وأضافت: "إنه ينطبق فقط على التوظيف والترقية". "وهذا يترك العديد من القرارات المهمة المتعلقة بالتوظيف والتي تؤثر بشكل كبير على حياة العمال، بما في ذلك تلك المتعلقة بالأجور، وجداول العمل، وظروف العمل، خارج نطاق القانون. كما أنه ينطبق فقط على العمال المقيمين في مدينة نيويورك، وليس على جميع الموظفين لدى أرباب العمل في مدينة نيويورك. ونظراً للعدد الهائل من غير المقيمين في مدينة نيويورك الذين يعملون لدى أرباب العمل في المدينة، فإن هذا يمثل تضييقاً كبيراً في نطاق تطبيق القانون."

كما ترى منظمة CDT أن متطلبات الإخطار والإفصاح غامضة. وقال شيرر: "لا توجد آلية تضمن النظر بجدية في الاختبارات البديلة أو طلبات التسهيلات، ناهيك عن تقديمها بشكل عادل".

وقالت ستويانوفيتش إنها تتفهم الحجج التي تنتقد القانون، لكنها ترى في إقراره "فرصة لنا جميعًا، بشكل جماعي، لنتوصل إلى طريقة لتفعيل المتطلبات الضرورية للغاية المتعلقة بتدقيق التحيز، والإفصاح العلني في مجال التوظيف القائم على الخوارزميات. ولا يمكننا التوصل إلى ذلك إلا من خلال العمل، وليس بالجلوس مكتوفي الأيدي والسماح باستمرار استخدام أدوات التوظيف القائمة على الخوارزميات، دون أي رقابة أو مساءلة".