تنظيم الذكاء الاصطناعي: مشرع من كاليفورنيا يقترح قانون «لا للرؤساء الآليين»

يسعى مشرع آخر في كاليفورنيا إلى أن تكون الولاية في طليعة الجهات المنظمة للذكاء الاصطناعي ، حيث كشف النقاب عن قانون «لا للرؤساء الآليين» (No Robo Bosses) واستهدف بشكل مباشر استخدام الذكاء الاصطناعي في أماكن العمل. يهدف مشروع قانون مجلس الشيوخ رقم 7، الذي أصدره السناتور جيري ماكنيرني، وهو ديمقراطي من ستوكتون، إلى تنظيم استخدام أنظمة اتخاذ القرار الآلية (ADS) في مجال التوظيف، على أمل تقييد استخدام الأدوات التي تعتمد على الذكاء الاصطناعي بشكل صارم عند التوظيف والترقية والتأديب وإنهاء خدمة العمال. إذا تم سن هذا القانون، فسيكون له تأثير كبير على أرباب العمل الذين يستخدمون أدوات إدارة القوى العاملة التي تعتمد على الذكاء الاصطناعي. فيما يلي ما تحتاج الشركات إلى معرفته حول هذه المبادرة الأخيرة لتنظيم الذكاء الاصطناعي في مكان العمل — وكيف تختلف عن التشريعات الأخرى المعلقة المتعلقة بالذكاء الاصطناعي في كاليفورنيا.

ما الذي سيتطلبه مشروع القانون SB 7؟

سيفرض قانون «لا للرؤساء الآليين » عدة التزامات وقيود أساسية على أرباب العمل الذين يستخدمون أنظمة اتخاذ القرار الآلي (ADS) في القرارات المتعلقة بالتوظيف:

ولاية الإشراف البشري. لن يتمكن أرباب العمل من الاعتماد حصريًّا على أدوات اتخاذ القرار الآلية في عمليات التوظيف والترقيات والإجراءات التأديبية أو إنهاء الخدمة. وسيتعين إشراك مراجع بشري في جميع القرارات الرئيسية المتعلقة بالتوظيف.

متطلبات الإخطار. يتعين على أرباب العمل تقديم إخطار كتابي للعاملين عند استخدام نظام دعم القرار الآلي (ADS) لاتخاذ قرارات متعلقة بالتوظيف. ويشمل ذلك: 1) إخطارًا مسبقًا قبل الاستخدام بـ 30 يومًا على الأقل من بدء استخدام نظام دعم القرار الآلي (ADS)؛ و2) إخطارًا لاحقًا يشرح كيفية تأثير نظام دعم القرار الآلي (ADS) على قرار التوظيف.

الشفافية والوصول إلى البيانات. يجب أن يتمتع الموظفون بالحق في الوصول إلى بياناتهم التي يستخدمها نظام ADS وتصحيحها، لضمان عدم التعرض لسوء تقديرهم بسبب تحليلات غير دقيقة تعتمد على الذكاء الاصطناعي.

إجراءات الاستئناف. يجب على أرباب العمل تزويد العمال بإجراءات استئناف واضحة في حال اعتقدوا أن قرارًا متعلقًا بالتوظيف اتُخذ بناءً على نظام ADS كان خاطئًا.

• سيتعين على أرباب العمل منح العمال مهلة 30 يوماً لتقديم استئناف.
• وسيكون أمامهم بعد ذلك 14 يوم عمل للرد — بعد أن يقوم مراجع بشري يستوفي معايير محددة بتقييم جميع الأدلة بشكل موضوعي.
• إذا قرر المراجع البشري أنه ينبغي إلغاء القرار، فسيتعين على صاحب العمل تصحيح القرار في غضون 21 يوم عمل.

الاستخدامات المحظورة. يحظر مشروع القانون صراحةً بعض وظائف ADS، بما في ذلك:

• استخدام الذكاء الاصطناعي للتنبؤ بسلوك الموظفين أو تقييم شخصيتهم أو حالتهم العاطفية أو نواياهم.
• جمع أو استنتاج بيانات شخصية حساسة (مثل الوضع القانوني للمهاجرين، والميول الجنسية، والتاريخ الائتماني، والمعتقدات الدينية، وغيرها).
• الاعتماد بشكل أساسي على تقييمات العملاء أو المقاييس المماثلة التي يولدها الذكاء الاصطناعي في اتخاذ قرارات التوظيف.

من المرجح أن تكون هذه النقطة الأخيرة — حظر ممارسات مثل الذكاء الاصطناعي التنبئي — مثيرة للجدل بشكل كبير. فقد يؤدي مثل هذا الحظر إلى إعاقة التقدم والكفاءة بشكل كبير، حيث إنه سيشمل بشكل عام الاستخدامات الشائعة للذكاء الاصطناعي التي تهدف في الواقع إلى مساعدة الموظفين، بما في ذلك الاحتفاظ بالموظفين ورضاهم، وأهداف أخرى مماثلة. من المرجح أن يجادل المعارضون بأن هذه الاستخدامات لا تعتمد على الذكاء الاصطناعي التوليدي (GenAI)، بل على صيغ رياضية بسيطة، وبالتالي فهي غير عرضة لنفس المخاوف (الهلوسة، والتحيز، وما إلى ذلك) التي تظهر مع استخدامات GenAI الأخرى.

كيف سيتم تطبيق مشروع القانون رقم 7؟

سيتمتع مفوض شؤون العمل بسلطة إنفاذ القانون فيما يتعلق بالقانون رقم SB 7، وقد تؤدي المخالفات إلى فرض غرامات مدنية قدرها 500 دولار لكل مخالفة — ناهيك عن الدعاوى القضائية التي قد يرفعها الموظفون.

كيف يختلف مشروع القانون SB 7 عن التشريعات الأخرى المعلقة المتعلقة بالذكاء الاصطناعي؟

مشروع القانون SB 7 ليس التشريع الوحيد المتعلق بالذكاء الاصطناعي في مكان العمل الذي يجري النظر فيه في كاليفورنيا. فمشروع القانون 1018 الصادر عن مجلس النواب يسعى أيضًا إلى تنظيم استخدام الذكاء الاصطناعي في مجال التوظيف — لكن هناك اختلافات جوهرية بينهما.

• يركز مشروع القانون SB 7 بشكل أساسي على الإشراف البشري في قرارات التوظيف، ويمنع أرباب العمل من الاعتماد حصريًا على الذكاء الاصطناعي في اتخاذ القرارات الحاسمة المتعلقة بمكان العمل.
• يفرض مشروع القانون AB 1018 التزامات امتثال أوسع نطاقاً على كل من أرباب العمل وموردي خدمات الذكاء الاصطناعي، حيث يشترط إجراء عمليات تدقيق ووضع سياسات للاحتفاظ بالبيانات، فضلاً عن إجراء تقييمات شاملة للمخاطر فيما يتعلق بأدوات التوظيف التي تعتمد على الذكاء الاصطناعي.
• يحظر مشروع القانون SB 7 صراحةً تحليل السلوك التنبئي، بينما يركز مشروع القانون AB 1018 بشكل أكبر على تقييمات الأثر والتزامات الإبلاغ.

وفي الوقت نفسه، من شأن مشروع القانون SB 7 أن يفرض متطلبات مشابهة لتلك التي تقترحها حالياً وكالة حماية الخصوصية في كاليفورنيا (CPPA) في الجولة الثانية من لوائحقانون حماية الخصوصية في كاليفورنيا (CCPA) وقانون حقوق الخصوصية في كاليفورنيا (CPRA) المتعلقة بتكنولوجيا اتخاذ القرار الآلي. ومن المرجح أن يتم إقرار تلك اللوائح المقترحة وتطبيقها في وقت لاحق من هذا العام. 

ومع ذلك، لا ينطبق قانون خصوصية المستهلك في كاليفورنيا (CCPA) إلا على الشركات الربحية التي تبلغ حجمها حدًا معينًا أو تلك التي تستوفي معايير محددة مرتبطة بعدد المستهلكين الذين تجمع بيانات عنهم. 

وعلى العكس من ذلك، فإن مشروع القانون رقم 7 سينطبق على جميع أرباب العمل دون استثناء، بما في ذلك الشركات الصغيرة والمنظمات غير الربحية. 

ما هي النتيجة؟ قد يؤدي مشروع القانون SB 7 فعليًّا إلى استبدال التكليف المنصوص عليه في قانوني CCPA وCPRA بتنظيم تكنولوجيا اتخاذ القرار الآلي، لأن هذا القانون سيفرض متطلبات مماثلة في جوهرها — ناهيك عن بعض المتطلبات الإضافية التي لا ترد في لوائح CCPA المعلقة.

وأخيرًا، قدم عضو مجلس الشيوخ عن ولاية كاليفورنيا سكوت وينر، وهو ديمقراطي من سان فرانسيسكو، مشروع قانون مجلس الشيوخ رقم 53، الذي يهدف إلى تعزيز التطوير المسؤول لأنظمة الذكاء الاصطناعي واسعة النطاق. يقترح مشروع القانون إنشاء CalCompute، وهي مجموعة حوسبة سحابية عامة مصممة لدعم الشركات الناشئة والباحثين في تطوير نماذج الذكاء الاصطناعي واسعة النطاق. بالإضافة إلى ذلك، يسعى مشروع القانون رقم 53 إلى تعزيز الحماية للمبلغين عن المخالفات الذين يبلغون عن المخاطر المحتملة المرتبطة بتطوير الذكاء الاصطناعي. ويتبع هذا المشروع مسارًا مشابهًا لمشروع قانون مثير للجدل تم تمريره في المجلس التشريعي، لكن الحاكم غافين نيوسوم نقضه في نهاية المطاف العام الماضي.

ما التالي؟

من المتوقع أن يثير قانون «لا للرؤساء الآليين» جدلاً واسعاً بين النقابات العمالية ومجموعات رجال الأعمال. ويؤكد المؤيدون أن الإشراف البشري ضروري لمنع التمييز الناجم عن الذكاء الاصطناعي، بينما يزعم المنتقدون أن قوانين العمل الحالية توفر بالفعل الحماية الكافية.

ينبغي على أرباب العمل أن يترقبوا أي تعديلات محتملة مع مرور مشروع القانون بمراحل جلسات الاستماع في اللجان خلال الأشهر القليلة المقبلة. وما هي المواعيد النهائية الرئيسية؟ يجب أن يصل مشروع القانون إلى نيوسوم بحلول منتصف سبتمبر، وسيكون أمامه حتى 12 أكتوبر للتوقيع عليه أو استخدام حق النقض ضده.

من منظور أوسع، يُعد هذا القانون تذكيرًا آخر بأن الولايات ستتولى زمام المبادرة في تنظيم الذكاء الاصطناعي في المستقبل المنظور. وفي الواقع، فشل مشروع قانون مشابه قُدم على المستوى الفيدرالي العام الماضي — وهو قانون «لا لرؤساء من الروبوتات» — في تجاوز مرحلة اللجنة في الكونغرس. ونظرًا لعدم حصولها على أي زخم على المستوى الفيدرالي، فستنتشر هذه الأنواع من مشاريع القوانين بلا شك في الولايات.

ماذا يجب أن يفعل أرباب العمل الآن؟

على الرغم من أن مشروع القانون SB 7 لا يزال قيد النظر في الإجراء التشريعي، ينبغي على أرباب العمل الذين يستخدمون الذكاء الاصطناعي في إدارة القوى العاملة أن يبدأوا الاستعداد من الآن من خلال مراعاة بعض أفضل الممارسات:

• مراجعة أنظمة الذكاء الاصطناعي الحالية. تحديد أين وكيف تُستخدم الأدوات التي تعتمد على الذكاء الاصطناعي في اتخاذ القرارات المتعلقة بالتوظيف.
• فكر في الكيفية التي ستطبق بها سياسات الإشراف البشري. قد تحتاج قريبًا إلى ضمان أن يكون للمسؤولين البشريين الكلمة الفصل في مسائل التوظيف والترقيات والإجراءات التأديبية وإنهاء الخدمة — لذا، إذا كان نظام ADS الحالي لديك يعاني من ضعف في هذه المجالات، فقد ترغب في البدء في التخطيط المبدئي لإجراء التعديلات اللازمة.
• مراجعة ممارسات جمع البيانات. عليك التأكد من أن أدوات الذكاء الاصطناعي الخاصة بك لا تستخدم أو تستنتج خصائص شخصية محظورة، ويمكنك القيام بذلك من خلال عمليات تدقيق التحيز في الذكاء الاصطناعي.
• تنفيذ سياسات حوكمة الذكاء الاصطناعي. وضعأطر عمل واضحة لحوكمة الذكاء الاصطناعي، بما في ذلك بروتوكولات الحد من التحيز وتدابير الشفافية. 
• ابقَ على اطلاع على المستجدات التشريعية. ونظراً للجهود الحثيثة التي تبذلها ولاية كاليفورنيا لتنظيم مجال الذكاء الاصطناعي، ينبغي على أرباب العمل متابعة مشروعي القانون SB 7 و AB 1018 عن كثب ليكونوا مستعدين للوفاء بمتطلبات الامتثال.

أسامة كهف محامٍ في شركة فيشر فيليبس في إيرفين، كاليفورنيا. ديفيد ج. والتون محامٍ في شركة فيشر فيليبس في فيلادلفيا. © 2025 فيشر فيليبس. جميع الحقوق محفوظة. أعيد نشره بإذن.