شركة HireVue توقف استخدام فحص تحليل ملامح الوجه

أعلنت شركة «HireVue»، وهي شركة معروفة متخصصة في مجال المقابلات والتقييمات عبر الفيديو، في شهر يناير أنها قامت بإزالة عنصر تحليل الوجه من تقييماتها التمهيدية، وذلك في ظل تزايد المخاوف بشأن الشفافية وملاءمة استخدام الذكاء الاصطناعي في قرارات التوظيف.

وقالت الشركة التي تتخذ من سولت ليك سيتي مقراً لها إن هذه الميزة المثيرة للجدل — والتي كانت تستخدم خوارزميات لتعزو سمات وخصائص معينة إلى تعابير وجه المتقدمين للوظائف خلال المقابلات عبر الفيديو — قد تم إيقافها في مارس 2020 بعد أن أظهرت الأبحاث الداخلية أن التقدم في مجال معالجة اللغة الطبيعية قد عزز من القدرة التنبؤية لتحليل اللغة، وأن «التحليل البصري لم يعد يضيف قيمة ملموسة إلى عمليات التقييم».

استضافت منصة HireVue أكثر من 19 مليون مقابلة بالفيديو لأكثر من 700 عميل حول العالم. وغالبًا ما يُستخدم هذا المنتج كأداة فرز آلية في مرحلة بداية عملية التوظيف لدى الشركات التي توظف أعدادًا كبيرة من الموظفين. وتستند المقابلات المنظمة عادةً إلى تحليل وظيفي مخصص للمنصب، وتطلب من المتقدمين للوظيفة الإجابة على سلسلة من الأسئلة في مقطع فيديو مسجل. ويقوم برنامج HireVue بتقييم مدى ملاءمة المتقدم للمنصب، ويهدف إلى الحد من التحيزات الذاتية للمقابلين البشريين عند تقييم المرشحين. ويحلل البرنامج خصائص مختلفة للمقابلة المصورة، بما في ذلك ردود المتقدمين، وطريقة كلامهم، وحتى العام الماضي، تعابير وجوههم.

قال كيفن باركر، الرئيس التنفيذي ورئيس مجلس إدارة HireVue: "مع مرور الوقت، تضاءلت أهمية العناصر المرئية في عملية التقييم إلى درجة أصبح فيها القلق العام بشأن كل ما يتعلق بالذكاء الاصطناعي كبيرًا لدرجة أن الأمر لم يعد يستحق القلق الذي يسببه للناس".

وأوضحت ليندسي زولواغا، كبيرة علماء البيانات في شركة HireVue، أنه تم في السابق تقييم حركات عضلات الوجه، مثل تجعيد الحاجبين أو الابتسام. وقالت: "تُظهر أبحاثنا أن ما يقوله الناس وما تعبر عنه تعابير وجوههم يتطابقان بشكل وثيق في كثير من الأحيان". "على الرغم من وجود ارتباط بين حركات عضلات الوجه والأداء الوظيفي في بعض الأدوار التي تتعامل مع العملاء — حيث قد يكون الابتسام مهمًا، على سبيل المثال — إلا أن هذه المعلومات لم تكن ضرورية في معظم الأحيان."

وأضاف زولواغا أن المرشحين لم يتم تقييمهم أبدًا بناءً على سمات مظهرية "حساسة أو شخصية".

رحب المدافعون عن زيادة الشفافية في استخدام تكنولوجيا الذكاء الاصطناعي بالخبر الذي أفاد بأن شركة «HireVue»، الرائدة في هذا المجال، قد توقفت عن استخدام تحليل الوجه.

قالت ميرفي هيكوك، SHRM والمحاضرة والمتحدثة في مجال أخلاقيات الذكاء الاصطناعي والتحيز والحوكمة، والمديرة السابقة في مجال الموارد البشرية، ومؤسسة شركة Lighthouse Career Consulting في آن أربور بولاية ميشيغان: "لم يكن تحليل الوجه أبدًا مؤشرًا تم التحقق من صحته بشكل مستقل وعلمي لتقييم قدرة الشخص أو كفاءته أو نجاحه في منصب ما".

وقالت: "تعبيرات الوجه ليست عالمية — فهي قد تتغير حسب الثقافة والسياق والإعاقات — كما يمكن التلاعب بها". "لذا، فإن الدقة في تصنيف تعبير ما بشكل صحيح تمثل مشكلة في الأساس، ناهيك عن استنتاج السمات منه". 

وأضافت جوليا ستويانوفيتش، الأستاذة المساعدة في علوم الحاسوب بكلية تاندون للهندسة بجامعة نيويورك والمديرة المؤسسة لمركز الذكاء الاصطناعي المسؤول التابع للكلية، أن تقنية التعرف على الوجه تتعرض للانتقاد والحظر في مجالات متعددة. وقالت: "يسعدني أن أرى أن التوظيف هو أحد هذه المجالات بسبب الأضرار المحتملة". "لا ينبغي أن نعتمد في عملية الفرز على سمات مميزة لا علاقة لها بالأداء الوظيفي". يسعدني أن هناك اهتمامًا كبيرًا بتقييم هذه الأدوات واتخاذ خطوات نحو الإشراف على أنظمة اتخاذ القرار الآلية المستخدمة في التوظيف. إذا تمكنا من وضع لوائح تنظيمية صارمة، فسنكون في وضع أفضل بكثير".

[مجموعة أدواتSHRM : الفرز عن طريق اختبارات ما قبل التوظيف]

جذب الانتباه

أصبحت شركات مثل HireVue موضع تدقيق من قبل مجموعة متزايدة من الأكاديميين وخبراء أخلاقيات التكنولوجيا والجهات التنظيمية الذين يثيرون تساؤلات حول المجموعة المتنامية من الأدوات الرقمية الجديدة التي يستخدمها أرباب العمل في عمليات الموارد البشرية.

قالت النائبة سوزان بوناميتشي، الديمقراطية عن ولاية أوريغون: "يؤكد مؤيدو التقنيات الحديثة أن الأدوات الرقمية تقضي على التحيز والتمييز من خلال السعي إلى استبعاد العنصر البشري من العملية، لكن التكنولوجيا لا تُطوَّر أو تُستخدم في فراغ". "تشير أدلة متزايدة إلى أن الأدوات الرقمية، إذا تُركت دون رقابة، يمكن أن تستوعب وتكرر التحيزات النظامية المتأصلة في البيئة التي صُممت فيها".

كما تثير تقييمات الاختيار التي تعتمد على اتخاذ القرارات الخوارزمية قلق جيني يانغ، الرئيسة السابقة للجنة تكافؤ فرص العمل الأمريكية. وقالت يانغ، التي تم اختيارها مؤخرًا لترأس مكتب برامج الامتثال للعقود الفيدرالية التابع لوزارة العمل الأمريكية - وهو المكتب الذي ينظم عمليات اختيار الموظفين، بما في ذلك التقييمات، التي يستخدمها المتعاقدون الفيدراليون -: «غالبًا ما تجعل تعقيدات العديد من الأنظمة الخوارزمية وغموضها من الصعب، إن لم يكن من المستحيل، فهم الأسباب الكامنة وراء اتخاذ قرار الاختيار».

وقالت: "تعمل العديد من الأنظمة كصندوق أسود، بمعنى أن موردي الأنظمة الخوارزمية لا يكشفون عن الكيفية التي تؤدي بها المدخلات إلى اتخاذ القرار".

قال باركر إن خوارزميات HireVue يمكن الكشف عنها للجمهور، لكن نشرها لن يكون مفيدًا. وأضاف: «هناك آلاف النماذج المخصصة في شركات مختلفة، وهي غير قابلة للتبادل. فكل خوارزمية تبدأ بتحليل الوظيفة الخاصة بدور معين في شركة معينة».

وأوضح أن القيمة الرئيسية لهذه التكنولوجيا تكمن في منح أرباب العمل القدرة على إجراء مقابلات منظمة بسرعة وعلى نطاق واسع. "لدينا عملاء يجرون مقابلات مع آلاف الأشخاص يوميًا، عبر مئات من مواقع البيع بالتجزئة في جميع أنحاء الولايات المتحدة. ومن المهم بالنسبة للتنوع والإنصاف والاندماج (DE&I) أن يحظى جميع هؤلاء المرشحين بنفس تجربة الفرز وأن تكون هناك طريقة متسقة لتقييم إجاباتهم. لا يمكنك إجراء مقابلات مع 1000 شخص بنفس الطريقة يدويًا. ولا يمكنك تقييم جميع المقابلات بشكل متسق، لكن الخوارزميات قادرة على ذلك."

وأضاف أن المرشحين يُعرضون عادةً على أرباب العمل في مجموعات مصنفة، بناءً على احتمالية نجاحهم في الوظيفة، وليس بناءً على تقييم فردي.

قال زولواغا: "الفكرة القائلة بأننا نكتفي بمراقبة حديثك وطريقة حديثك، وأن ذلك يكشف لنا عن هويتك، هي فكرة خاطئة". "هكذا يُصوَّر الأمر أحيانًا، ولو كان ذلك صحيحًا لكان نموذجًا مروعًا. لكن هذا ليس ما نقوم به".

كما أصدرت HireVue نتائج تدقيق أجرته شركتا O'Neil Risk Consulting وAlgorithmic Auditing، خلصت إلى أن تقييمات HireVue "تعمل بالشكل المعلن عنه فيما يتعلق بمسائل العدالة والتحيز".

وأوضحت الشركة أن المراجعة أجريت على حالة استخدام تمثيلية لتقييمات جاهزة تم تطويرها باستخدام منهجية HireVue المستخدمة في توظيف المرشحين في مرحلة مبكرة من حياتهم المهنية، ولم تكن مراجعة شاملة لخوارزميات الشركة.

وقال زولواغا: "لقد كلفنا شركة أونيل بدراسة المخاوف المختلفة التي تساور الأطراف المعنية وكيفية معالجتها". "لقد بحثنا في الأمور التي قد نقوم بها والتي قد تكون ضارة أو التي قد ينظر إليها الناس على أنها ضارة. ونحن نواصل العمل على تحسين عنصر تحليل الخطاب وجعل عملية التقييم برمتها أكثر وضوحًا للمرشحين، كما أننا نخضع حاليًا لعمليات تدقيق إضافية، بما في ذلك تدقيق يتعلق بالتأثير السلبي".  

وقال باركر إن المراجعة أظهرت أن شركة HireVue تحتاج إلى تحسين بعض الجوانب، لكنها في الوقت نفسه تؤدي العديد من المهام على نحو جيد. وأضاف: "نحن فخورون بالعمل الذي نقوم به، ونريد أن نتأكد من أن أي شيء نقوم به لا يؤثر سلبًا على أي فئة من المرشحين".

وقد لفتت هذه القضية المتطورة انتباه المشرعين على المستويات الفيدرالية والولائية والمحلية.

وقال باركر إن شركة HireVue تدعم بشكل عام التشريعات الناشئة التي تشجع على الشفافية وتحسين النتائج. وأضاف: "نحن نتواصل مع المشرعين في إطار العملية الجارية للتأكد من أننا نستمع إلى مخاوفهم، وللتأكد من أنهم يتخذون قراراتهم بناءً على ما يحدث فعليًا".

أصدرت الشركة مجموعة من المبادئ الأخلاقية المتعلقة بالذكاء الاصطناعي ، وأنشأت مجلسًا استشاريًا من الخبراء معنيًا بهذه المسألة. كما تدعم HireVue «قانون إلينوي للمقابلات المصورة باستخدام الذكاء الاصطناعي»، وهو أول قانون في البلاد يشترط الحصول على موافقة المرشحين لتحليل لقطات الفيديو.

المخاوف المحيطة بتحليل الكلام

لا يزال الخبراء قلقين بشأن استخدام شركة HireVue للتحليل القائم على الكلام في المقابلات عبر الفيديو.

قال زولواغا إن تحليل فترات التوقف في كلام المتقدمين أو نبرة صوتهم يمثلان عاملين ثانويين في النموذج الخوارزمي، ويجري حالياً فحصهما للتأكد من عدم وجود تحيز.

قال هيكوك: "إن الافتراض بأن المؤشرات الصوتية، أو نبرة الصوت، أو اختيار الكلمات، أو تعقيدها، لها أي صلة سببية موثوقة بالنجاح في مكان العمل، بحيث يمكن الاستناد إليها في اتخاذ قرارات التوظيف أو توجيهها، هو افتراض خاطئ". "فبرامج التعرف على الكلام قد يكون أداؤها ضعيفًا، كما أن معالجة اللغة الطبيعية ليست قادرة بعد على فهم الفروق الدقيقة في الكلام أو سياق الجملة، وبالتالي فهي غير قادرة على تحليل محتوى الإجابة وسياقها بشكل صحيح".

وأضافت أنه قد تشهد معالجة اللغة الطبيعية تطورات مستقبلية تتيح لأصحاب العمل استخدام الذكاء الاصطناعي لفهم محتوى النصوص والكلام بشكل أفضل، وهو ما يمكن الاستفادة منه في الربط بين الخبرة والمهارات القابلة للتطبيق وفرص العمل.

قال باركر: "قد يكون تحليل الكلام مضللاً بعض الشيء". "نحن نقيّم في المقام الأول إجابة المرشح على الأسئلة. نقوم بتدوين الإجابات على الأسئلة المحددة التي تُطرح على جميع المرشحين في تلك الشركة في شكل نصي، ونفهم مضمون الإجابة. نحن لا نحلل لهجتهم أو طريقة نطقهم".

توقعات إيجابية

على الرغم من مخاوفهم، يتفق الخبراء على أن الأدوات الخوارزمية لها قيمتها في مجال الموارد البشرية، وينبغي تحسينها لا إلغاؤها.  

وقال يانغ: "يمكن للأنظمة الخوارزمية أن تساعد في تحديد وإزالة العوائق النظامية في ممارسات التوظيف والتعيين، ولكن لتحقيق هذه الفائدة، يجب أن نضمن تصميمها بعناية لمنع التحيز، وتوثيق القرارات وشرحها، وهو أمر ضروري لتقييم موثوقيتها وصحتها".

قال هيكوك: "أعتقد أن تكنولوجيا الذكاء الاصطناعي تحمل في طياتها آفاقاً واعدة في مجال توظيف المواهب، لا سيما في مجالات مثل تحليل القوى العاملة، وتحسين العمليات، والتواصل مع المرشحين، ومطابقة المهارات مع الوظائف أو المشاريع." "ومع ذلك، فإن نجاحها وإفادتها للمرشحين وأصحاب العمل على حد سواء يتطلبان اتخاذ تدابير وقائية."

ووافقت ستويانوفيتش على أن العودة إلى فحص الطلبات يدويًا "سيكون أمرًا سخيفًا". وأضافت أن "الخوارزميات المستخدمة في استقطاب المواهب يمكن أن تساعدنا في تحديد الإجراءات وضمان خضوعها للمساءلة، والتوظيف وفقًا للأهداف التي وضعناها. لكن لا ينبغي لنا أن نبالغ في تقدير قدراتها أو نعد بأكثر مما تستطيع تحقيقه".