قانون الذكاء الاصطناعي في مدينة نيويورك هو فشل ذريع

كان "قانون التحيز في الذكاء الاصطناعي" في مدينة نيويورك واعدًا للغاية بالنسبة لمؤيدي تنظيم أدوات الذكاء الاصطناعي والأتمتة في التوظيف. ولكن بعد سبعة أشهر من تاريخ سريان القانون، يبدو أن أرباب العمل يتجاهلونه إلى حد كبير.

يُلزم القانون أرباب العمل الذين يستخدمون أدوات اتخاذ قرارات التوظيف الآلية (AEDTs)، والتي تشمل العديد من المنصات والبرامج المستخدمة في التوظيف والتعيين، بتدقيق تلك الأدوات بحثًا عن أي تحيز محتمل على أساس العرق والجنس، ونشر نتائج التدقيق على مواقعهم الإلكترونية، وإخطار الموظفين والمرشحين للوظائف باستخدام تلك الأدوات.

ولكن وفقًا للباحثين في جامعة كورنيل، لم يقم سوى 18 من أصل 391 من أرباب العمل في مدينة نيويورك الذين تم تحليلهم في يناير بنشر نتائج تدقيق التحيز. وخلص مؤلفو الدراسة إلى أن القانون له قيمة محدودة للغاية بالنسبة للباحثين عن عمل.

"إنه عديم الفعالية تمامًا"، قالت هيلكي شيلمان، خبيرة في الذكاء الاصطناعي ومؤلفة كتاب The Algorithm (Hachette Books، 2024) وأستاذة مساعدة في الصحافة بجامعة نيويورك. "لكنني لست مندهشة من انخفاض مستويات الامتثال، لأن هناك هامشًا واسعًا من التقدير لمدى امتثال أرباب العمل".

في المراحل الأخيرة من صياغة القانون، تم تعديل نطاقه من تغطية معظم AEDTs في البداية إلى تغطية تلك التي يتم استخدامها دون أي إشراف بشري فقط.

قال جورو سيثوباثي، المؤسس المشارك والرئيس التنفيذي لشركة FairNow، وهي منصة حوكمة الذكاء الاصطناعي التي تجري عمليات تدقيق وتراقب الخوارزميات وتساعد الشركات على ضمان الامتثال لتكنولوجيا الذكاء الاصطناعي: "يحدد القانون تعريف AEDTs بشكل ضيق للغاية".

وقال: "إذا تم استخدام الأداة لأتمتة قرار بالكامل، فإنها تقع ضمن نطاق القانون". "ولكن من السهل جدًا التحايل على ذلك، ومن الصعب جدًا إنكار أن الإنسان ليس موجودًا في مكان ما في هذه العملية".

أوضحت أماندا بلير، محامية في مكتب نيويورك لمكتب المحاماة فيشر فيليبس، أن نطاق القانون كان موضوعًا مثيرًا للجدل أثناء صياغته، حيث جادل البعض بأن التعريف الأصلي لـ AEDTs كان واسعًا للغاية وشمل العديد من الأدوات، بينما عارض آخرون ذلك وقالوا إنهم يريدون تعريفًا أكثر صرامة. قررت إدارة حماية المستهلكين والعمال في مدينة نيويورك، المكلفة بالإشراف على القانون، في النهاية المضي قدمًا في التعريف المنقح.

قال بلير: "كان هناك خطر أن يكون تأثير القانون محدودًا، ولكن كان هناك أيضًا عبء كبير على أقسام الموارد البشرية لفهم الأدوات التي يستخدمونها وما إذا كانت هذه الأدوات تتناسب مع التعريف وكيفية تطبيق التعريف على الأداة". "هناك الكثير من المخاطر التي تنطوي عليها الإفصاح عن المعلومات، حيث إنك تعرض نفسك للتدقيق مقابل الانتظار حتى يتم تطبيق القانون بجدية وتعرف المعايير التي سيحددونها على أنها قابلة للتطبيق - وهو نهج أكثر انتظارًا وترقبًا".

وفقًا لشيلمان، قال موردو التكنولوجيا وأصحاب العمل إن البشر يتخذون القرار النهائي بعد مراجعة تصنيفات الذكاء الاصطناعي، مما يعفيهم من إجراء عمليات تدقيق. لكن هناك العديد من الأدوات الآلية المستخدمة في المراحل الأولى من عملية التوظيف لفحص الطلبات ورفض المرشحين، وهذه الأدوات تستحق التدقيق، على حد قولها.

اتفق الخبراء على أن أحد العوامل الأخرى التي تثني عن الامتثال هو أن وكالة إنفاذ القانون في المدينة تستجيب للشكاوى. وقال متحدث باسم المدينة إن الوكالة لم تتلق أي شكاوى منذ دخول القاعدة حيز التنفيذ.

قال شيلمان: "المشكلة هي أن معظم المتقدمين للوظائف لا يعلمون حتى أن الذكاء الاصطناعي مستخدم، لذا لا يمكنهم تقديم شكوى. الشركات لا تنشر نتائج التدقيق، لذا لا يعلم الناس أنها تستخدم أدوات الذكاء الاصطناعي".

قال بلير إن "الوكالة تشعر أن لديها صلاحيات واسعة في مجال إنفاذ القانون - وقد رأينا ذلك في القوانين التي تدخل في نطاق اختصاصها - حيث تقوم بالتحقيق من تلقاء نفسها. ولكن نعم، يجب أن يعرف الجمهور عن هذا القانون حتى يتم تقديم شكوى. ولا يزال الناس - بما في ذلك الأطراف المتضررة - يحاولون اللحاق بالركب لمعرفة ما يجري وما هي حقوقهم. ما لم يكن لديك محامٍ يحاول العثور على مدعي، فسوف يستغرق تقديم الشكوى بعض الوقت".

وقال سيثوباثي إن شرط نشر نتائج التدقيق سيؤدي إلى مزيد من إعاقة الامتثال. "لن ترغب الشركات في القيام بذلك. تتميز عمليات تدقيق التحيز الجيدة بالدقة ويمكن أن تتطلب تحليلات أعمق؛ ونشر نسب التأثير الأولية ليس مفيدًا حقًا ويمكن أن يساء تفسيره من قبل الجمهور"، على حد قوله. "لذلك، لديك نطاق ضيق للغاية، وطلب غريب بنشر نتائج تدقيق التحيز، وغرامات صغيرة جدًا. إنها تركيبة مثالية لإثارة عدم الامتثال".

قارن شيلمان قانون مدينة نيويورك بقانون المقابلات المرئية باستخدام الذكاء الاصطناعي الذي تم تمريره في ولاية إلينوي عام 2019، والذي يستهدف أرباب العمل الذين يستخدمون الذكاء الاصطناعي لتحليل المقابلات المرئية لمقدمي طلبات التوظيف. وتتمثل الميزة الرئيسية لهذا القانون في الكشف عن استخدام الذكاء الاصطناعي قبل الحصول على موافقة مقدم الطلب للمضي قدماً.

وقالت: "هذه القوانين حسنة النية ولكنها ليست مفيدة للغاية، لأن الكشف وحده لن يحل بالضرورة مشكلة التحيز أو التمييز في الذكاء الاصطناعي".

قانون مدينة نيويورك هو قانون إفصاح — ولا يطلب من أرباب العمل تغيير ممارساتهم في التوظيف.

قال شيلمان: "غالبًا ما يكون المتقدمون للوظائف مستهلكين مجبرين. إذا كنت ترغب في الحصول على الوظيفة، فهل سترفض العملية لمجرد وجود الذكاء الاصطناعي أو الأتمتة فيها؟ ربما لا".

المزيد من اللوائح التنظيمية للذكاء الاصطناعي قادمة

قال الخبراء إن أرباب العمل سيتعين عليهم التعود على زيادة الرقابة على أنظمتهم الآلية وأنظمة الذكاء الاصطناعي.

قال بلير: "يراقب المشرعون فعالية قانون مدينة نيويورك - إذا تبين أن الناس يتضررون من أدوات الذكاء الاصطناعي، فسنرى قوانين رجعية نتيجة لذلك". "أتوقع صدور توجيهات إضافية هذا العام".

قالت إميلي م. ديكنز، SHRM موظفي SHRM ورئيسة الشؤون العامة: "أعربتSHRM عن قلقها بشأن قانون مدينة نيويورك المتعلق بتنظيم أدوات اتخاذ القرارات الآلية في مجال التوظيف". "نواصل حث صانعي السياسات على تبني عقلية التعلم من الذكاء الاصطناعي التوليدي، من خلال تحليل البيانات لاتخاذ قرارات مستنيرة. من الأهمية بمكان التمييز بين التشريعات غير الفعالة والنهج الذي قد يكون مفرطًا في الحذر أو غير ضروري. نحن نشجع على إجراء مراجعة شاملة لجهود مدينة نيويورك التنظيمية، وندعو إلى التوافق مع أفضل الممارسات الناشئة والهياكل التنظيمية الراسخة لتجنب مجموعة من القواعد المتنافرة التي قد تعيق وصول الشركات الصغيرة والمتوسطة الحجم إلى أدوات قيّمة".

وقال سيثوباثي إن الولايات الأخرى ستتعلم من ما فعلته مدينة نيويورك وما لم تفعله. "ابحثوا عن نهج لإدارة المخاطر لا يركز كثيرًا على النتائج، بل نموذج يركز أكثر على الحوكمة والسياسات والضوابط والاختبارات والمراقبة المستمرة. يركز نهج الاتحاد الأوروبي على أفضل الممارسات في مجال الحوكمة، أي كيفية المراقبة وتوثيق الضوابط والتوازنات، وتكون الغرامات كبيرة. لكنكم لا تطلبون من الشركات أن تشارك نتائج التدقيق علنًا".

من المتوقع أن يقر البرلمان الأوروبي قانونًا تاريخيًا، وهو قانون الاتحاد الأوروبي للذكاء الاصطناعي، هذا العام. وقد تمتد فترات السماح بالامتثال حتى عام 2025 أو 2026.

بعض أنواع الذكاء الاصطناعي محظورة، بما في ذلك أنظمة التعرف على المشاعر في العمل، وأنظمة التعرف على الوجه، وأنظمة التصنيف البيومتري التي تستخدم خصائص "حساسة". يعتبر الذكاء الاصطناعي المستخدم في التوظيف والتعيين "عالي المخاطر" ويجب تقييمه وإخضاعه لأنظمة حوكمة البيانات وتخفيف التحيز وإدارة المخاطر والجودة.

قال شيلمان: "في الاتحاد الأوروبي، التوظيف هو مجال تطبيق قانوني ذو أهمية كبيرة. نحن بحاجة إلى هذا الموقف هنا في الولايات المتحدة".