دراسة تظهر أن الذكاء الاصطناعي قادر على تطوير تحيزات التوظيف الخاصة به

لقد أمضى قادة الموارد البشرية سنوات في التركيز على مشكلة مألوفة تتعلق بالذكاء الاصطناعي: كيف يمكن منع نظام الذكاء الاصطناعي من تكرار التحيزات المتأصلة في بيانات التدريب الخاصة به؟

تشير دراسة حديثة إلى أن هذا السؤال قد لا يكون كافياً.

كشفت دراسة أجراها باحثون من جامعة برينستون وجامعة شيكاغو أن النماذج اللغوية الضخمة (LLMs) يمكن أن تطور تحيزات اجتماعية جديدة خلال عمليات التوظيف المتكررة.

وتطرح هذه النتيجة تحديًا مختلفًا أمام أرباب العمل الذين يتبنون أدوات الذكاء الاصطناعي التي تزداد تعقيدًا — فقد يطور النظام أنماطًا مشكوكًا فيها من خلال خبرته الخاصة في اتخاذ القرارات، بدلاً من مجرد توريث التحيز من البيانات التاريخية أو التفاعل البشري.

ويعني ذلك أن حوكمة الذكاء الاصطناعي لا يمكن أن تقتصر على تقييم العدالة قبل النشر. بل يتعين على المؤسسات أيضًا أن تفهم كيف يتصرف الذكاء الاصطناعي بمرور الوقت، وكيف تتم مراقبة القرارات، وماذا يحدث عند ظهور نمط يثير مشاكل.

أجرى الباحثون اختبارًا على 15 نموذجًا من شركات مثل OpenAI وAnthropic وDeepSeek وGoogle وMeta في عملية توظيف محاكاة. وكان المرشحون ينتمون إلى أربع مجموعات ديموغرافية خيالية، وكانت فرص نجاحهم متساوية في كل وظيفة. ومع ذلك، بدأت النماذج في توزيع المجموعات المختلفة بشكل غير متناسب على المهن المختلفة استنادًا إلى نتائج التوظيف الأولية.

وعزا الباحثون هذا السلوك جزئيًا إلى التوازن بين الاستكشاف والاستغلال. فبدلاً من الاستمرار في اختبار الاحتمالات المختلفة، يمكن للنموذج أن يعتمد بشكل متزايد على الأنماط التي بدا أنها ناجحة في مراحل سابقة من العملية. وبالتالي، يمكن أن تصبح نتيجة معزولة أساسًا لافتراضات تتسع نطاقها بشكل متزايد.

وكما قال الباحثون، «يمكن لنماذج اللغة الكبيرة (LLMs) أن تطور تلقائيًا تحيزات اجتماعية جديدة تجاه مجموعات ديموغرافية افتراضية، حتى في حالة عدم وجود أي اختلافات جوهرية». وأضافوا أن النتائج تُظهر أن نماذج اللغة الكبيرة «ليست مجرد مرآة سلبية للتحيزات الاجتماعية البشرية، بل يمكنها أن تخلق تحيزات جديدة بشكل نشط استنادًا إلى الخبرة».

قالت بيث وايت، المؤسِّسة والرئيسة التنفيذية لمنصة MeBeBot الداعمة للموظفين باستخدام الذكاء الاصطناعي، إن هذه الديناميكية الكامنة لا ينبغي بالضرورة اعتبارها مفاجأة.

قال وايت، صاحب مجموعة «الذكاء الاصطناعي الأخلاقي للموارد البشرية» على منصة لينكدإن: «هذا ليس تطوراً جديداً؛ بل هو إدراك جديد لدى التيار السائد في المجتمع لكيفية عمل نماذج اللغة الكبيرة (LLMs) ونماذج الذكاء الاصطناعي وكيفية تدريبها».

وقالت إن المشاركة البشرية المستمرة أمر ضروري، لأن مجرد محاولة إزالة التحيز من نظام الذكاء الاصطناعي لا تكفي.

قال وايت: «بصراحة، هذا أمر جوهري في كيفية عمل نماذج اللغة الكبيرة (LLMs) ونماذج الذكاء الاصطناعي». «ولهذا السبب، فإن تدريب الإنسان لأدوات الذكاء الاصطناعي وتدريب النماذج نفسها، من أجل إزالة التحيزات عند ظهورها، أمر أساسي».

الحدث: خطة العمل الخاصة بالابتكار والتطوير

لا يمكن أن يكون الإشراف البشري مجرد أمر ثانوي

بالنسبة لقادة الموارد البشرية، فإن الدرس العملي المستفاد هو عدم تجنب استخدام الذكاء الاصطناعي في عملية التوظيف. بل إن الدرس هو الطعن في الفكرة القائلة بأن أداة التوظيف القائمة على الذكاء الاصطناعي يمكن نشرها ثم تركها تعمل بأقل قدر من الإشراف.

وقال وايت إن أرباب العمل بحاجة إلى أشخاص يفهمون كيفية معالجة أنظمة الذكاء الاصطناعي للمعلومات، وقادرين على تحديد النتائج المشكوك فيها والتعامل معها.

"ومع ذلك، فإن معظم العملاء يريدون زرًا «سهلًا»: تشغله، تضبطه، ثم تنساه. لكن حلول الذكاء الاصطناعي لا تعمل بهذه الطريقة"، قالت. "يجب أن يكون هناك شخص في الحلقة، يفهم كيف تعالج النماذج المعلومات، والأهم من ذلك، ما الذي يمكنك فعله حيال ذلك إذا بدأت في اكتشاف تحيزات في البحث عن المرشحين وفرزهم وتوظيفهم."

ويكتسب هذا الإشراف البشري أهمية خاصة مع توجه أرباب العمل نحو أنظمة الذكاء الاصطناعي القادرة على اتخاذ قرارات متعددة أو التأثير عليها بشكل متتالي. فالأداة التي تقتصر على المساعدة في تلخيص السير الذاتية تنطوي على مخاطر مختلفة عن النظام الفاعل الذي يقيّم المرشحين، ويتعلم من النتائج، ويؤثر على التوصيات اللاحقة.

تتسم الدراسة بالفعل ببعض القيود الرئيسية. فقد استخدمت مجموعات ديموغرافية خيالية ومحاكاة خاضعة للرقابة، حيث تلقت النماذج ردود فعل فورية حول ما إذا كان كل قرار توظيف قد نجح أم لا. وهذا يختلف عن العديد من أنظمة التوظيف في العالم الواقعي، التي قد تقوم بفرز المرشحين أو تصنيفهم دون الحصول على معلومات مباشرة حول ما إذا كان هؤلاء المرشحون قد نجحوا في نهاية المطاف في أداء مهام وظائفهم.

وقالت ميشيل ترافيس، الأستاذة الباحثة في كلية الحقوق بجامعة سان فرانسيسكو: «إن مدى تأثير هذه القدرة على قرارات التوظيف في الواقع هو مسألة مفتوحة». وأضافت: «استندت الدراسة إلى مجموعات ديموغرافية خيالية وإجراء عشوائي خاضع للرقابة على البيانات».

ومع ذلك، قال ترافيس إن هذه الدراسة ينبغي أن تدفع أرباب العمل إلى إلقاء نظرة فاحصة على ممارساتهم المتعلقة بالذكاء الاصطناعي.

وقالت: «على الرغم من محدودية هذه الدراسة، فإن نتائجها ينبغي أن تشكل جرس إنذار لأصحاب العمل الذين يستخدمون أدوات الذكاء الاصطناعي في عمليات التوظيف لديهم». «ومع استمرار تطور فهمنا للتحيز في الذكاء الاصطناعي، تشير الدراسة إلى أهمية استمرار الإشراف البشري، لا سيما عندما تكون الوظائف على المحك».

شهادة تخصصية: AI+HI

حوكمة الذكاء الاصطناعي كقدرة من قدرات الموارد البشرية

كما يقدم هذا البحث درسًا قد يكون مفيدًا حول كيفية تصميم أرباب العمل لأنظمة الذكاء الاصطناعي. فقد وجد الباحثون أن عدة تدخلات — بما في ذلك تلميحات الاستدلال خطوة بخطوة، وزيادة العشوائية في النتائج، وتقصير سجلات القرارات المرجعية — لم تسهم بشكل يذكر في الحد من التحيز المحاكي. في المقابل، أدى تحديد هدف صريح للتنوع، بدلاً من إصدار تعليمات عامة بالإنصاف، إلى تقليل التنميط بشكل كبير في السيناريو.

وأشار ترافيس إلى أن هذه النتيجة تتوافق مع أبحاث أخرى تناولت التوظيف بمساعدة الذكاء الاصطناعي.

وقالت: «تسلط الدراسة الضوء أيضًا على أهمية صياغة تعليمات مناسبة لأدوات الذكاء الاصطناعي».

ينبغي على المؤسسات أن تضع أهدافًا واضحة بشأن الكيفية التي يُسمح بها للذكاء الاصطناعي بتقديم التوصيات، وأن تحدد نقاط مراجعة بشرية مناسبة، وأن تختبر النتائج بشكل دوري للكشف عن الأنماط الناشئة، وليس فقط أشكال التحيز المعروفة.

وأوصى وايت ببناء تلك القدرات بشكل تدريجي، بدءًا من التثقيف في مجال الذكاء الاصطناعي وسياسات الاستخدام الآمن، ثم التدريب على المطالبات والنماذج، وصولًا في النهاية إلى التقييم متعدد الوظائف لأدوات الذكاء الاصطناعي من قِبل فرق المشتريات والفرق القانونية.