تقنية تحليل الوجه في مكان العمل تنطوي على مخاطر

تخضع تقنية التعرف على الوجه لفحص دقيق في الوقت الذي تعيد فيه المؤسسات والجهات التشريعية تقييم استخدامها في أعقاب الاحتجاجات العالمية ضد الظلم العنصري. وقد أعلنت شركات التكنولوجيا العملاقة «أمازون» و«آي بي إم» و«مايكروسوفت» مؤخرًا أنها ستتوقف عن بيع تقنية التعرف على الوجه إلى أجهزة الشرطة في الولايات المتحدة، مشيرةً إلى احتمال انتهاك هذه التقنية لحقوق الإنسان والمخاوف المتعلقة بالتنميط العنصري.

سلطت الأبحاث الحديثة الضوء على بعض المخاطر الكامنة في استخدام هذه التكنولوجيا. فقد كشفت دراسة أجراها معهد ماساتشوستس للتكنولوجيا وجامعة ستانفورد أن ثلاث تقنيات لتحليل الوجه متوفرة تجارياً أظهرت تحيزاً فيما يتعلق بنوع البشرة والجنس. ووجدت الدراسة أن أداء هذه التقنيات كان أفضل مع الرجال والأشخاص ذوي البشرة الفاتحة، وأسوأ مع النساء ذوات البشرة الداكنة.

كما أعرب «الاتحاد الأمريكي للحريات المدنية» (ACLU) ومنظمات حقوق الإنسان الأخرى والمدافعون عن الخصوصية عن مخاوفهم بشأن قضايا الخصوصية والمراقبة المرتبطة باستخدام هذه التكنولوجيا.

تقييم المرشحين للوظائف

لطالما استخدم بعض مزودي الخدمات في قطاع الموارد البشرية تقنية تحليل الوجه للمساعدة في تقييم المقابلات المصورة مع المرشحين للوظائف. تعمل أدوات الذكاء الاصطناعي هذه على تحليل تعابير الوجه وحركاته، واختيار الكلمات، ونبرة الصوت، لتوليد بيانات تساعد مسؤولي التوظيف على اتخاذ قرارات التعيين. ويقول مزودي الخدمات إن هذه الأدوات يمكن أن تساعد في خفض تكاليف التوظيف وتحسين الكفاءة من خلال تسريع عملية فرز المرشحين وتوظيف الموظفين الجدد.

لكن الخبراء يقولون إنه إذا لم يتم تدريب خوارزميات تحليل الوجه هذه على مجموعات بيانات كبيرة أو متنوعة بما يكفي، فإنها تكون عرضة للتصنيف المستمر لبعض المتقدمين — مثل الرجال البيض — على أنهم أكثر أهلية للتوظيف من غيرهم. على سبيل المثال، وجدت دراسة معهد ماساتشوستس للتكنولوجيا وجامعة ستانفورد أن إحدى شركات التكنولوجيا الكبرى في الولايات المتحدة ادعت أن معدل دقة خوارزمية التعرف على الوجه التي صممتها يزيد عن 97 في المائة. ومع ذلك، فإن قاعدة البيانات التي تم تدريب الخوارزمية عليها كانت تضم أكثر من 77 في المائة من الذكور وأكثر من 83 في المائة من ذوي البشرة البيضاء.

قال جوش بيرسين، المحلل العالمي في قطاع الموارد البشرية وعميد أكاديمية جوش بيرسين في أوكلاند بولاية كاليفورنيا، إن بعض مزودي خدمات الموارد البشرية قد أدمجوا تقنية تحليل الوجه في أدوات إجراء المقابلات عبر الفيديو، بهدف تحديد ما يظهر على المرشحين من توتر أو محاولات تضليل، بل وحتى حالتهم المزاجية.

قال بيرسين: "لقد بذل هؤلاء الموردون جهودًا كبيرة للتأكد من موضوعية التحليلات، لكنهم يتعرضون لمخاطر جراء ذلك". "الحل الأمثل هو استخدام هذه الأدوات بحذر شديد والتأكد من إجراء اختبارات على عينات كبيرة جدًا قبل الوثوق بهذه الأنظمة".

قالت فريدا بولي، مؤسِّسة شركة «بيميتريكس» للتقييم ومقرها نيويورك، إن استخدام تقنية تحليل الوجه لتقييم المرشحين للوظائف أمر «مشكوك فيه للغاية». وأضافت: «إن الجانب العلمي لهذه التقنية، من حيث ما تكشفه فعليًّا عن الشخص، لا يزال حديثًا للغاية ولم يتم التحقق من صحته بشكل كافٍ، وبالتأكيد لم يتم التحقق من صحته بشكل كافٍ فيما يتعلق باستخداماتها في مجال الموارد البشرية».

قالت إيلين أورلر، الرئيسة التنفيذية لشركة «تالنت فانكشن» (Talent Function)، وهي شركة استشارية متخصصة في استقطاب المواهب ومقرها سان دييغو، إنه ينبغي النظر إلى النتائج بعين الشك إذا ما استُخدمت هذه التكنولوجيا في تقييم شخصية المرشحين للوظائف أو سلوكهم. وأوضحت قائلة: "الحلول التكنولوجية ليست دقيقة في هذا المجال، وهي تترك مجالاً واسعاً للصدفة فيما يتعلق بإصدار نتائج إيجابية أو سلبية خاطئة". "لفهم التعبيرات الدقيقة، على سبيل المثال، يتطلب الأمر فهماً أعمق لسلوكيات ذلك الشخص بعينه، وليس مجرد خط أساس مستمد من الجمهور للتعبيرات المتوقعة من الجميع".

يقول بعض الخبراء إن تقنية التعرف على الوجه لها فائدتها في مكان العمل، لا سيما في ظل جائحة كوفيد-19. وقال أورلر إن استخدام هذه التقنية كأداة بيومترية للسماح بالدخول إلى أجزاء معينة من المبنى، أو كبديل لا يتطلب اللمس لساعات تسجيل الدوام، يمكن أن يكون حلاً جيداً للحد من انتشار فيروس كورونا.

وقالت: "غالبًا ما تحتاج الشارات وغيرها من المنتجات التي تحتوي على بيانات اعتماد إلى ملامسة منتجات سبق أن لمسها آخرون، كما أن أجهزة مسح بصمات الأصابع تنطوي أيضًا على مثل هذه المخاطر".

المسائل القانونية والمتعلقة بالخصوصية

أصبح استخدام تقنية التعرف على الوجه خاضعًا للقوانين في عدد متزايد من الولايات. وقال كوابينا أبنتنغ، المحامي المتخصص في خصوصية مكان العمل وأمن المعلومات في شركة «ليتلر» بشيكاغو، إن معظم أرباب العمل أصبحوا الآن على دراية بقانون إلينوي التاريخي لخصوصية المعلومات البيومترية (BIPA) ، الذي يُلزم الشركات التي تطبق تقنية التعرف على الوجه في تلك الولاية بالحصول على موافقة الأشخاص المعنيين وتقديم سياسة مكتوبة حول كيفية تخزين البيانات المجمعة وحمايتها واستخدامها. وقال أبنتنغ إن المزيد من الولايات — بما في ذلك كاليفورنيا وتكساس — تطلب الآن أيضًا من أصحاب العمل الذين يستخدمون هذه التكنولوجيا الوفاء ببعض التزامات الامتثال.

كما فرضت ولايتا إلينوي وماريلاند قيودًا على استخدام تكنولوجيا تحليل الوجه، لا سيما في تقييم المرشحين للوظائف. وقالت مونيكا سنايدر، المحامية في شركة «فيشر فيليبس» في بوسطن ونيويورك وعضو فريق العمل المعني بأمن البيانات والخصوصية في مكان العمل بالشركة، إن كاليفورنيا ونيويورك قد اقترحتا تشريعات مماثلة لتنظيم استخدام الذكاء الاصطناعي في تقييم المتقدمين للوظائف.

قال سنايدر إن ولاية إلينوي سنت في وقت سابق من هذا العام «قانون المقابلات المصورة باستخدام الذكاء الاصطناعي»، وهو قانون يُلزم الشركات التي تستخدم هذه التكنولوجيا بإخطار المتقدمين مسبقًا بأن هذه التكنولوجيا ستُستخدم لتحليل تعابير وجوههم، والحصول على موافقتهم على استخدامها، وشرح كيفية عمل الذكاء الاصطناعي للمتقدمين، وإتلاف مقاطع الفيديو الخاصة بالمقابلات في غضون 30 يومًا إذا طلب المرشح ذلك.

وقالت: "يتعين على أرباب العمل توخي الحذر في كيفية استخدامهم لهذه التكنولوجيا".

وقال أبنتنغ إن هناك أيضًا مسألة كسب تأييد الموظفين لاستخدام تقنية التعرف على الوجه، حيث قد يعتبرها الكثيرون تهديدًا لخصوصيتهم. وأضاف: «لذلك، قد يرغب أرباب العمل في النظر في تزويد موظفيهم بإشعار يشرح تقنية التعرف على الوجه بعبارات سهلة الفهم لتهدئة أي مخاوف لدى الموظفين».

ديف زيلينسكي كاتب ومحرر مستقل متخصص في مجال الأعمال في مينيابوليس.