هل ستقضي الذكاء الاصطناعي على التحيز في التوظيف؟

إذا كنت تتابع أحدث اتجاهات التوظيف، فربما لاحظت أن العديد من مسؤولي التوظيف يتجهون إلى استخدام أدوات الذكاء الاصطناعي (AI) للتصدي للتمييز في التوظيف―والتوقعات بشأن نجاح هذه الأدوات كبيرة.      

ومع ذلك، يحذر محللو تكنولوجيا الموارد البشرية، بل وحتى المسؤولون التنفيذيون في الشركات التي تقدم حلول الذكاء الاصطناعي، من أنه قد يكون من الصعب تحقيق عملية توظيف خالية تمامًا من التحيز.

ما مدى صعوبة الأمر؟ اكتشفت شركة «أمازون»، أكبر متجر للتسوق عبر الإنترنت في العالم، ذلك على صعيد عملي. في عام 2015، اكتشفت الشركة أن نظام التوظيف الذي كانت تعمل على تطويره باستخدام خوارزميات التعلم الآلي قد بدأ في تخفيض تقييم بعض السير الذاتية التي تضمنت كلمات مثل "نادي النساء". في المقابل، كان النظام يفضل المرشحين الذكور الذين تُنسب إليهم أفعال مثل "نفذ" و"استولى". ولم يتم تطبيق نظام التوظيف هذا على مستوى الشركة بأكملها.

وفقًا لسارة برينان، الرئيسة التنفيذية وكبيرة الاستراتيجيين في شركة «أكسلير» (Accelir)، وهي شركة استشارات في مجال تكنولوجيا الموارد البشرية مقرها ميلووكي، فإن المشكلة في تقنية التوظيف التي تستخدمها «أمازون» تكمن في أنها كانت مليئة بالسير الذاتية القديمة التي تم جمعها على مدى عشر سنوات، وهي فترة كان فيها عدد الرجال المتقدمين للوظائف والمعينين فيها أكبر من عدد النساء.

قال برينان: "طريقة بنائه كانت تعني أن كلمة 'رجال' تعني 'جيد'". "لم تكن خوارزمية نظيفة يمكن التعلم منها. حاولت أمازون بناء هذا النظام داخليًّا باستخدام بيانات متحيزة منذ البداية، بدلاً من الدخول في شراكة مع شركة متخصصة في تكنولوجيا التوظيف أجرت دراسات للتحقق من صحة برمجياتها، وذلك لتجنب أن يكرر النظام ببساطة العادات السيئة."

[منصة مناقشة عبر الإنترنتSHRM : SHRM ]

الذكاء الاصطناعي: حل للتنوع؟

أظهرت دراسة أجرتها شركة ماكينزي آند كومباني أن الشركات التي تتمتع بقوة عاملة متنوعة تتفوق مالياً على الشركات التي لا تتمتع بذلك.     

إلا أن التمييز في التوظيف يثبت أنه من الصعب القضاء عليه. فقد كشفت دراسة حديثة أن التمييز في التوظيف ضد العمال السود في الولايات المتحدة لم يتراجع خلال الربع قرن الماضي.

أظهرت دراسة أجراها المكتب الوطني للبحوث الاقتصادية عام 2016 أنه على الرغم من أن النساء يشكلن أكثر من 50 في المائة من الموظفين الإداريين، إلا أنهن لا يمثلن سوى 4.6 في المائة من المديرين التنفيذيين.

وفقًا لمادلين لورانو، المؤسِّسة المشاركة لشركة «أبتيتيود ريسيرتش بارتنرز»، وهي شركة أبحاث واستشارات مقرها بوسطن، فإن قدرة الذكاء الاصطناعي على القضاء بنجاح على التحيز في عمليات التوظيف ستعتمد على ما إذا:

• تستخدم الشركات حلول الذكاء الاصطناعي المناسبة بشكل متسق في جميع أنحاء المؤسسة وطوال عملية التوظيف بأكملها.
  
• تتجه المؤسسات نحو توعية فرق التوظيف ومديري التعيين بكيفية استخدام حلول الذكاء الاصطناعي لتحقيق أهداف التنوع.
  

أظهر استطلاع حديث أجرته شركة الاستشارات الإدارية «كورن فيري» أن 63 في المائة من أصل 770 متخصصاً في استقطاب المواهب شملهم الاستطلاع أفادوا بأن الذكاء الاصطناعي قد غيّر طريقة إجراء عمليات التوظيف في مؤسساتهم، بينما قال 69 في المائة منهم إن استخدام الذكاء الاصطناعي كأداة للبحث عن المرشحين يساعد في العثور على مرشحين ذوي كفاءة أعلى. ومن بين الشركات التي تطور أدوات الذكاء الاصطناعي هذه شركة Pymetrics، وهي شركة مقرها مدينة نيويورك تعمل على تطوير خوارزميات التعلم الآلي. وتشمل عملية تطوير الخوارزميات في Pymetrics قيام أفضل الموظفين لدى العملاء بإكمال ألعاب تختبر سمات مثل الذاكرة قصيرة المدى والتخطيط والاستجابة للمهام المتعلقة بالوظيفة.

تُعد Pymetrics الخطوة الأولى في عملية التوظيف بالنسبة للمرشحين الذين تقدموا لشغل وظيفة ما. فإذا تقدم المرشحون لوظيفة مدير مبيعات أول، على سبيل المثال، فسيتم دعوتهم للعب ألعاب علم الأعصاب، ويتم تحليل نتائجهم بواسطة خوارزميات خضعت لاختبارات التحيز، تم تطويرها استنادًا إلى أفضل الموظفين أداءً لدى العميل في هذا المنصب. ثم تقدم Pymetrics توصية إلى صاحب العمل بشأن مدى ملاءمة المتقدم المتوقعة لهذا المنصب.

وقالت بريانكا جاين، مديرة المنتجات في الشركة، إنه لمنع خوارزميات التعلم الآلي من إحداث تحيز، تقوم الشركة باختبار جميع الخوارزميات مسبقًا للتأكد من أنها لا تفضل أي جنس أو عرق. ومع ذلك، تؤكد أن التحيز قد يحدث في مراحل لاحقة من عملية التوظيف، مثل أثناء المقابلة، حيث قد يُدخل العديد من القائمين على المقابلة تحيزاتهم الخاصة.

تستخدم شركة «تكستيو» التي تتخذ من سياتل مقراً لها الذكاء الاصطناعي لمساعدة عملائها في البحث عن مجموعة أكثر تنوعاً من المتقدمين للوظائف. وتوفر الشركة منصة كتابة معززة تقترح لغة خالية من التحيز لاستخدامها في إعلانات الوظائف ورسائل البريد الإلكتروني التي يرسلها مسؤولو التوظيف إلى المرشحين.

تستند خوارزمية التعلم الآلي الخاصة بـ Textio إلى ما يقرب من 400 مليون وثيقة متعلقة بتوظيف المواهب، مثل إعلانات الوظائف الشاغرة، حيث تستخلص الأداة منها أنماطًا لغوية ثم تقترح كلمات تساعد على تجنب إثارة استياء مجموعات معينة.

قال كيران سنايدر، المؤسس المشارك والرئيس التنفيذي لشركة Textio: "تكتشف Textio الأنماط الفعالة في جذب تفاعل مختلف الفئات من الناس." "تقدم لك المنصة تعليقات في الوقت الفعلي توضح لك الكلمات التي قد ترغب في تغييرها، والكلمات التي قد ترغب في استخدامها للحصول على ردود من الأشخاص الذين تستهدفهم."

ومع ذلك، يحذر سنايدر من أن الذكاء الاصطناعي له حدوده.

وقالت: "لن يساعد برنامج Textio الأشخاص الذين يتحملون تحيزًا متعمدًا". "إذا كنت شخصًا متعصبًا بالفعل، فلا يوجد برنامج في العالم قادر على التخلص من تعصبك".

تقدر شركة العقارات الإلكترونية «زيلو» أنه منذ أن بدأت الشركة في استخدام منصة «تكستيو» للكتابة المعززة قبل عامين، شهدت زيادة بنسبة 11 في المائة في عدد المتقدمات للوظائف، وزيادة بنسبة 3 في المائة في عدد الموظفات، وزيادة بنسبة 6 في المائة في عدد النساء اللواتي يشغلن مناصب تقنية.

قالت آني رين، نائبة رئيس قسم التوظيف في شركة Zillow، إن الشمولية تبدأ منذ بداية تجربة المرشح، عندما يقرأ المتقدم إعلانًا عن وظيفة على موقع Zillow. وأضافت: "اللغة التي نختارها يمكن أن تقوي علاقتنا بالمتقدم للوظيفة أو تقوضها. فالناس يقررون بأنفسهم ما إذا كانوا سيشاركون في عملية التوظيف أم لا بناءً على اللغة التي نستخدمها في وصف الوظيفة".

استخدام الذكاء الاصطناعي للحد من التحيز البشري

تستخدم شركة Entelo، التي تتخذ من سان فرانسيسكو مقراً لها، الذكاء الاصطناعي في «وضع التوظيف غير المتحيز» (Unbiased Sourcing Mode)، وهي أداة تعمل على إخفاء هوية المتقدمين للوظائف. تقوم الأداة بحجب الأسماء والصور والجنس والمؤسسات التعليمية وتواريخ التخرج وغيرها من المعلومات التي قد تؤدي إلى تفضيل مرشح ما أو استبعاده.

قال مايك تريغ، مدير التسويق في شركة «إنتيلو»، إن الذكاء الاصطناعي، في أفضل حالاته، يحمل آمالاً هائلة في الحد من التمييز الصريح أو الضمني أو اللاواعي في عملية التوظيف. ومع ذلك، يشعر تريغ بالقلق — وتؤيد الأبحاث الحديثة هذا القلق — من أن التعلم الآلي قد يكرر العديد من أنواع التحيز نفسها الموجودة في عملية اتخاذ القرار البشري. 

قال تريغ: "إذا كانت الآلة تتعلم من مسؤول توظيف متحيز، فإن ذلك قد يؤدي إلى تعزيز التحيز بدلاً من القضاء عليه في عملية التوظيف". "فأنت تخاطر بأن تحاكي الآلة التحيزات التي قد يكون لدى مسؤول التوظيف هذا".

قال دي كيه بارتلي، نائب الرئيس الأول ورئيس قسم التنوع والشمول في شبكة دنتسو إيجيس، وهي شركة متعددة الجنسيات تعمل في مجال الإعلام والتسويق الرقمي والاتصالات، إن النجاح في استخدام الذكاء الاصطناعي في عمليات التوظيف يتوقف على ما إذا كانت الأداة مصممة لتوليد نتائج عادلة ومتوازنة، وكذلك على الكيفية التي يحلل بها مسؤولو التوظيف ومديرو التعيينات البيانات ويتصرفون بناءً على الرؤى التي يولدها النظام. 

وأشار بارتلي إلى أن أدوات الذكاء الاصطناعي لا يمكنها أن تساعد في عملية التوظيف إلا إذا قام مديرو التوظيف والمسؤولون عن التوظيف بتقييم البيانات لمعرفة، على سبيل المثال، عدد المرشحين المتاحين، ومن تم اختياره ولماذا، ومن أجرى المقابلات مع المرشحين، والنتائج التي تم التوصل إليها.

وقال: "إذا استخدمت الذكاء الاصطناعي في نهاية المطاف ولم تقم بتعيين ذلك المرشح الذي ينتمي إلى فئة متنوعة، فلا بأس بذلك لأنك اتبعت الإجراءات بدقة". "لقد أجريت مقابلات مع المجموعة المناسبة من المرشحين، وبالنسبة لك، بصفتك مسؤول التوظيف، فإن الانطباع السائد هو أن هذا المرشح كان الأفضل. سيدعم النظام قرارك من خلال إظهار أن جميع المرشحين الآخرين لم يمتلكوا جميع المهارات التي تحتاجها. في نهاية المطاف، الذكاء الاصطناعي يحاسب الجميع".

نيكول لويس صحفية مستقلة مقيمة في ميامي. وهي تغطي أخبار الأعمال والتكنولوجيا والسياسة العامة.