وكالة في كاليفورنيا تصدر المسودة الأولى للوائح التنظيمية الخاصة بالذكاء الاصطناعي

في 27 نوفمبر، كشفت وكالة حماية الخصوصية في كاليفورنيا (CPPA) عن مسودة لوائح تتعلق بتكنولوجيا اتخاذ القرار الآلي (ADMT) من شأنها أن توفر حماية جديدة للموظفين والمستهلكين.

ستنظم مسودة لوائح ADMT استخدام الشركات لهذه التكنولوجيا من خلال اشتراط إخطار المتقدمين للوظائف والموظفين قبل الاستخدام، وتعزيز الحقوق في رفض استخدام الأدوات الآلية والحصول على معلومات بشأن استخدام الشركات لها، واشتراط قيام الشركات بإجراء تقييمات للمخاطر في حالات معينة.

ستسري مسودة اللوائح على سكان كاليفورنيا، بما في ذلك المستهلكون والموظفون والباحثون عن عمل وغيرهم من الأفراد في سياق التعامل بين الشركات أو في سياق التوظيف. وعلى وجه الخصوص، ستلزم مسودة اللوائح أرباب العمل الذين يستخدمون أدوات آلية بإخطار الباحثين عن عمل والموظفين بأن قرار التوظيف (مثل رفض فرصة العمل أو خفض الأجر) استند إلى استخدام تقنية اتخاذ القرار الآلي (ADMT)، وأن للموظف الحق في الاطلاع على معلومات حول كيفية استخدام هذه التقنية.

وتعد مسودة اللوائح جزءًا من الصلاحيات التنظيمية الممنوحة للهيئة المعنية بحماية خصوصية المستهلك في كاليفورنيا (CPPA)، والتي تم تأسيسها بموجب التعديلات التي أُجريت على قانون خصوصية المستهلك في كاليفورنيا (CCPA)، والتي وافق عليها ناخبو كاليفورنيا في عام 2020 كجزء من المقترح رقم 24، أي قانون حقوق الخصوصية في كاليفورنيا لعام 2020، أو ما يُعرف باسم CCPA 2.0.

ومع ذلك، ففي حين أن مسودة اللوائح هذه من شأنها أن تضع كاليفورنيا في طليعة الدول التي تنظم استخدام التكنولوجيا المعززة بالبيانات (ADMT)، بما في ذلك الذكاء الاصطناعي، فيما يتعلق بمخاوف الخصوصية الفردية، من المهم الإشارة إلى أن هذه اللوائح ليست سوى مسودة للوائح محتملة، وأن عملية وضع القواعد الرسمية لم تبدأ بعد.

تم نشر مسودة اللوائح لتسهيل إبداء الرأي العام، وستتم مناقشتها في اجتماع مجلس إدارة هيئة حماية البيانات الشخصية (CPPA) المقرر عقده في 8 ديسمبر، إلى جانب اللوائح المقترحة التي تم إصدارها سابقًا بشأن عمليات تدقيق الأمن السيبراني وتقييم المخاطر. ونتيجة لذلك، من المرجح أن تخضع هذه اللوائح المقترحة للتعديل قبل إقرارها بشكل نهائي.

مشروع اللوائح

ستسري هذه اللوائح على تكنولوجيا اتخاذ القرار الآلي، التي تُعرَّف بأنها «أي نظام أو برنامج أو عملية — بما في ذلك ما يُستمد من التعلم الآلي أو الإحصاءات أو غير ذلك من عمليات معالجة البيانات أو الذكاء الاصطناعي — تقوم بمعالجة المعلومات الشخصية وتستخدم الحسابات» لاتخاذ قرار أو تسهيل اتخاذه.

وتشمل هذه القرارات "التنميط"، الذي تُعرّفه اللوائح بأنه المعالجة الآلية للمعلومات الشخصية بهدف تحليل أو توقع أداء الشخص الوظيفي وسلوكياته ومكان وجوده وسمات أخرى، مثل الموثوقية أو الوضع الاقتصادي أو الحالة الصحية. ويشمل التنميط استخدام بعض أدوات مراقبة الإنتاجية، بما في ذلك برامج تسجيل ضغطات المفاتيح، وأجهزة مراقبة الانتباه، وتقنيات التعرف على الوجه أو الصوت، وتطبيقات مراقبة وسائل التواصل الاجتماعي وتصفح الإنترنت.

تنص مسودة اللوائح على إلزام الشركات التي تستخدم تقنية ADMT بإخطار الموظفين مسبقًا لإطلاعهم على استخدام هذه التقنية، وعملية اتخاذ القرار ونتائجها، وحقوقهم في رفض استخدام هذه التقنية والحصول على معلومات بشأنها.

يجب أن يتضمن الإشعار الغرض من استخدام التكنولوجيا، ووصفاً لحقوق الشخص في رفض استخدامها، ووصفاً لحق الشخص في الوصول إلى المعلومات المتعلقة باستخدام هذه التكنولوجيا، وطريقة سهلة تتيح للشخص الحصول على معلومات إضافية حول استخدام التكنولوجيا.

وتشمل هذه المعلومات الإضافية ما يلي:

• المنطق الذي تستخدمه الأداة، بما في ذلك العوامل المستخدمة في اتخاذ القرارات.
• نتيجة عملية اتخاذ القرار، مثل النتيجة العددية.
• كيف تعتزم الشركة استخدام النتائج، بما في ذلك ما إذا كان هناك تدخل بشري في العملية.
• ما إذا كان استخدام المؤسسة لهذه الأداة قد خضع للتقييم من حيث الصحة والموثوقية والإنصاف.

سيُطلب من الشركات السماح للموظفين والمتقدمين للوظائف بالامتناع عن استخدام الأداة الآلية في "القرارات التي تترتب عليها آثار قانونية أو آثار مهمة مماثلة"، بما في ذلك فرص التوظيف والتعويضات.

تنص مسودة اللوائح على استثناءات معينة من حق الانسحاب في حالات مختلفة، مثل التحقيق في الحوادث الأمنية، ومنع الأعمال الاحتيالية أو غير القانونية الموجهة ضد الشركة، ولأغراض السلامة، وعندما يطلب المستهلك ذلك، وفي حالة عدم وجود طريقة بديلة معقولة للمعالجة. وسيكون هناك افتراض قابل للدحض بوجود طريقة بديلة معقولة للمعالجة، وستتحمل الشركة عبء إثبات العكس.

بالإضافة إلى ذلك، ستلزم مسودة اللوائح الشركات بمنح الموظفين والمتقدمين للوظائف والمتعاقدين المستقلين إمكانية رفض "التنميط"، بما في ذلك استخدام برامج تسجيل ضغطات المفاتيح، وأجهزة مراقبة الإنتاجية أو الانتباه، والتسجيل المرئي أو الصوتي أو البث المباشر، وتقنيات التعرف على الوجه أو الكلام، والتقييم الآلي للعواطف، وأجهزة تتبع الموقع، وأجهزة تتبع السرعة، وأدوات مراقبة تصفح الويب أو تطبيقات الهاتف المحمول أو وسائل التواصل الاجتماعي.

تسمح أحكام التنميط للموظفين والمستهلكين برفض التنميط "أثناء وجودهم في مكان متاح للجمهور"، ويشمل ذلك استخدام تتبع شبكات الواي فاي أو البلوتوث، أو تحديد الهوية عبر الترددات الراديوية، أو الطائرات بدون طيار، أو التسجيل المرئي أو الصوتي أو البث المباشر، أو تقنيات التعرف على الوجه أو الكلام، أو التقييم الآلي للعواطف، أو تحديد المواقع الجغرافية، أو أجهزة تتبع المواقع، أو التعرف على لوحات السيارات.

سيتعين على الشركات التي تستخدم أدوات آلية توفير طريقتين أو أكثر للمستهلكين لتقديم طلبات إلغاء الاشتراك. ويجب أن تعكس إحدى هذه الطرق على الأقل الطريقة التي تتعامل بها الشركة بشكل أساسي مع المستهلك.

سيُسمح للشركات بأن توفر للمستهلكين خيار السماح باستخدامات محددة للأدوات الآلية، شريطة أن يتم توفير خيار رفض جميع الاستخدامات. وسيُطلب من الشركات الانتظار لمدة لا تقل عن 12 شهراً من تاريخ استلام طلب الرفض قبل أن تسأل المستهلكين عما إذا كانوا يرغبون في الموافقة على استخدام الأدوات الآلية.

تقييمات المخاطر

وستعمل اللوائح المقترحة جنبًا إلى جنب مع اللوائح المقترحة التي صدرت سابقًا بشأن تقييم المخاطر، والتي ستتم مناقشتها أيضًا في اجتماع مجلس الإدارة المقرر عقده في 8 ديسمبر. وتقتضي اللوائح المقترحة المتعلقة بتقييم المخاطر من الشركات إجراء تقييمات للمخاطر في الحالات التي «تشكل فيها معالجة المعلومات الشخصية للمستهلكين خطرًا كبيرًا على خصوصية المستهلكين».

قد يرغب أرباب العمل في كاليفورنيا في النظر في كيفية تأثير مسودة اللوائح على أعمالهم وممارساتهم وسياساتهم الحالية في مجال التوظيف. ومع ذلك، فإن مسودة اللوائح لم تصل بعد إلى مرحلة الصياغة النهائية، وستتاح فرص أخرى للمناقشة وإبداء التعليقات.

سيمون ماكمينيمي، وشون نالتي، وبنجامين بيري، وزاكاري زاغر هم محامون في شركة أوغليتري ديكينز. © 2023. جميع الحقوق محفوظة. أعيد نشرها بإذن.