التحيز في بحوث الذكاء الاصطناعي في ادارة الموارد البشرية
أولا: مقدمة
تغلغل الذكاء الاصطناعي (AI) بسرعة في كل جانب من جوانب المجتمع تقريبًا في غضون فترة قصيرة، مما أثر على التعليم والتمويل والسياسة وإدارة الموارد البشرية (HRM). أدى هذا الانتشار للذكاء الاصطناعي إلى زيادة كبيرة في المنشورات البحثية والمشاركة في المؤتمرات في هذا المجال. في الوقت نفسه، هناك قلق متزايد بشأن الأبعاد الأخلاقية للذكاء الاصطناعي، لا سيما فيما يتعلق بالتحيز والتمييز. تهدف هذه المراجعة الأدبية إلى فحص البحوث الحالية حول التحيز والتمييز في الذكاء الاصطناعي بشكل منهجي، مع التركيز بشكل خاص على مجال إدارة الموارد البشرية، لتوفير فهم شامل لهذا المجال. تتمحور المراجعة حول ثلاثة أسئلة رئيسية: كيف يُعرّف الباحثون "التحيز" و "التمييز"؛ ما هي الأشكال المحددة للتحيز والتمييز التي يتم التحقيق فيها؛ وهل هناك تحيز تجاه الآثار السلبية للذكاء الاصطناعي في البحث. من خلال استكشاف هذه الأسئلة، تسعى هذه المراجعة إلى تسليط الضوء على المشهد المفاهيمي والتجريبي لبحوث تحيز الذكاء الاصطناعي.
ثانيا: منهجية المراجعة
تستخدم هذه المراجعة المنهجية إطار عمل عناصر التقارير المفضلة للمراجعات المنهجية وتحليل البيانات المجمعة (PRISMA)، والذي يقدم بروتوكولًا منظمًا مع إرشادات وقوائم مرجعية وتفسيرات ومخططات انسيابية. تتضمن عملية المراجعة أربع مراحل متميزة: التحديد، والفحص، والأهلية، والإدراج. ركزت مرحلة التحديد على اختيار قواعد البيانات العلمية الإلكترونية بما في ذلك Web of Science Core Collection و Scopus و IEEE Xplore Digital Library و Science Direct و ProQuest. تم إجراء عمليات البحث عن الأدبيات باستخدام مراحل اختبار متكررة، مع إجراء تحليل المحتوى في النصف الأول من عام 2024. تم تأطير استعلامات البحث حول مصطلحات "الذكاء الاصطناعي" و "التعلم الآلي" و "التعلم العميق" جنبًا إلى جنب مع "التمييز" أو "التحيز" و "الموارد البشرية *". اقتصرت معايير الإدراج على تحليل مقالات المجلات التي تمت مراجعتها من قبل الأقران، وأوراق المؤتمرات، وأوراق المراجعة، المكتوبة باللغة الإنجليزية، دون أي قيود على تاريخ النشر. تضمنت مرحلة الفحص مراجعة عناوين وملخصات المنشورات المحددة بناءً على مجموعة من الإرشادات. قامت مرحلة الأهلية بتقييم النص الكامل للمنشورات التي تم فحصها، وتم استبعاد تلك التي تنحرف عن هدف البحث. استخدمت مرحلة الإدراج النهائية تحليل المحتوى الاستقرائي لتحليل المنشورات الـ 64 المتبقية، وترميز المعلومات حول بيانات النشر، وتركيز البحث، وتفاصيل التحيز والتمييز، ووجهات نظر المؤلفين حول آثار الذكاء الاصطناعي. تم استخدام هذا النهج لتوحيد النتائج وتقديم مراجعة شاملة.
ثالثا: المواضيع الرئيسية في البحث
ظهرت العديد من المواضيع الرئيسية من المراجعة المنهجية للأدبيات:
- عدم الوضوح المفاهيمي: يفتقر جزء كبير من البحث إلى تعريفات واضحة لمصطلحي "التحيز" و "التمييز". وجدت المراجعة أن أكثر من نصف الأوراق، 53.1٪، لا تقدم تعريفات واضحة لهذه المصطلحات. هذا الغياب للتعريفات الواضحة يجعل من الصعب مقارنة النتائج وتكرارها عبر دراسات مختلفة. يمثل عدم الوضوح مشكلة مفاهيمية رئيسية للبحث في التحيز والتمييز في الذكاء الاصطناعي.
- التنوع المفاهيمي: هناك مجموعة واسعة من المعاني والتفسيرات لـ "التحيز" و "التمييز" ضمن الأدبيات. يُستخدم "التحيز" لوصف المشكلات الفنية (مثل تحيز البيانات) أو التفضيلات أو الظلم. علاوة على ذلك، يُنظر إلى التحيز أيضًا على مستوى المدخلات (تدريب مجموعة البيانات) وعلى مستوى المخرجات (النصوص والصور والقرارات). وبالمثل، يتم تعريف "التمييز" بطرق متعددة، مما يُظهر تنوعًا مفاهيميًا كبيرًا. هذا التنوع يُعقّد أي مقارنة مباشرة بين الدراسات، حتى تلك التي تقدم تعريفات واضحة.
- هيمنة أنواع معينة من التحيز: يركز البحث بشكل غير متناسب على التحيز والتمييز المتعلق بلون البشرة (العنصرية) والجنس (التمييز على أساس الجنس). الأشكال الأخرى من التحيز والتمييز، مثل تلك المتعلقة بالعمر والإعاقة والدين والثقافة والوضع الاجتماعي والاقتصادي، ممثلة تمثيلاً ناقصًا بشكل كبير. قد ينتج عن هذا الخلل فهم غير مكتمل لكيفية إنتاج أنظمة الذكاء الاصطناعي آثارًا غير مرغوب فيها.
- آثار الذكاء الاصطناعي في إدارة الموارد البشرية: تُستخدم حلول الذكاء الاصطناعي بشكل متزايد في عمليات إدارة الموارد البشرية المختلفة، مثل التوظيف والاختيار وإدارة الأداء. ومع ذلك، فقد لوحظت حالات التحيز والتمييز عند تطبيق الذكاء الاصطناعي في هذا المجال. إن إمكانية أنظمة الذكاء الاصطناعي لإعادة إنتاج أو تضخيم التحيزات البشرية الموجودة هي مصدر قلق كبير. تشير بعض الدراسات إلى أن الذكاء الاصطناعي يمكن أن يخفف من التحيز، بينما تشير دراسات أخرى إلى أن الذكاء الاصطناعي يؤدي إلى تفاقمه. هذا النقاش حول دور الذكاء الاصطناعي في إدارة الموارد البشرية مستمر.
رابعا: نقاط الاتفاق والنقاش والفجوات في البحث
- الاتفاق: هناك اتفاق واسع على أن أنظمة الذكاء الاصطناعي لديها القدرة على إدامة وتضخيم التحيزات البشرية الموجودة، ويمكن أن تؤدي إلى أشكال جديدة من التحيز. يدرك العديد من العلماء أن البيانات أو الخوارزميات المتحيزة يمكن أن تؤدي إلى نتائج تمييزية.
- النقاش: يتمحور أحد النقاشات الرئيسية حول أصل التحيز في الذكاء الاصطناعي، سواء كان متأصلًا في التكنولوجيا نفسها أو نابعًا من الخيارات البشرية في تصميم البيانات والخوارزميات. هناك نقاش حول ما إذا كان الذكاء الاصطناعي أداة يمكنها حل مشكلات التحيز أو تقنية يمكن أن تؤدي إلى طرق جديدة للتمييز في الممارسة العملية. يعتقد البعض أنه يمكن استخدام الذكاء الاصطناعي لتعزيز الإنصاف، بينما يرى آخرون إمكانية أن يؤدي الذكاء الاصطناعي إلى تفاقم أوجه عدم المساواة القائمة.
- الفجوات: تم تحديد العديد من الفجوات بما في ذلك:
- عدم وجود تعريفات موحدة لـ "التحيز" و "التمييز".
- التمثيل الناقص للبحث في العديد من أشكال التحيز والتمييز (مثل العمر والإعاقة والدين وغيرها).
- الحاجة إلى إرشادات واضحة حول تطبيق الذكاء الاصطناعي للتخفيف من التحيز ومعالجة التمييز، خاصة في سياق إدارة الموارد البشرية.
خامسا: المناهج المنهجية
تضمنت منهجية هذه المراجعة اتباع نهج منهجي للأدبيات، باستخدام إطار عمل PRISMA. الدراسة هي دراسة كمية من حيث أنها أحصت عدد المنشورات والمصطلحات المستخدمة في البحث وعدد المنشورات التي حددت أو لم تحدد المصطلحات. تستخدم المنهجية تحليل المحتوى الاستقرائي لتجميع وتحليل المنشورات المختارة. سمح هذا النهج بتحليل كميات كبيرة من البيانات النصية وتحديد الأنماط والمواضيع ذات الصلة المتعلقة بالتحيز والتمييز. تضمنت المراجعة أنواعًا مختلفة من الدراسات: مقالات المجلات وأوراق المؤتمرات وأوراق المراجعة. تم الحصول على المنشورات من قواعد بيانات متعددة لضمان نظرة عامة شاملة على المجال.
سادسا: التطور في المجال بمرور الوقت
ازداد البحث في أخلاقيات الذكاء الاصطناعي، لا سيما الإنصاف والشفافية، بشكل كبير منذ عام 2014. ازداد عدد المنشورات في المؤتمرات التي تركز على الأخلاق بخمسة أضعاف. انتقل الإنصاف والتحيز الخوارزمي من كونه موضوعًا أكاديميًا متخصصًا إلى مجال بحث رئيسي. يُظهر هذا أن المجال قد توسع من المساعي الأكاديمية إلى موضوع بحث رئيسي له آثار واسعة على جميع أنواع المجالات. على مدى العقد الماضي، كانت هناك زيادة كبيرة في حجم البحث حول الذكاء الاصطناعي والأخلاق.
سابعا: رؤى نقدية
تسلط المراجعة المنهجية الضوء على التحديات المفاهيمية المهمة داخل البحث:
- عدم الوضوح والتنوع المفاهيمي: إن عدم وجود تعريفات واضحة ومتسقة لـ "التحيز" و "التمييز" يجعل من الصعب تجميع الأدبيات الموجودة. يشكل التنوع في استخدام هذه المصطلحات تحديًا لصحة وموثوقية البحث في هذا المجال. يشير هذا إلى أن البحث في تحيز الذكاء الاصطناعي يحتاج إلى اعتماد تعريفات أكثر صرامة لضمان قدرة المجال على البناء على البحث الذي يتم إجراؤه بالفعل.
- التركيز غير المتناسب: قد يؤدي التركيز غير المتناسب على العرق والجنس إلى فهم متحيز لقدرات الذكاء الاصطناعي وحدوده. قد يتسبب هذا التركيز في إغفال أشكال أخرى من التحيز والتمييز أو عدم التحقيق فيها بدقة.
- الآثار العملية: إن وجود تحيز الذكاء الاصطناعي في مكان العمل له آثار عملية كبيرة، مما يتطلب سياسات وتوجيهات واضحة. على سبيل المثال، إذا لم يكن لدى السياسات تعريفات واضحة للتحيز والتمييز، فقد لا تكون التدابير التي تضعها فعالة، وقد تخلق عدم ثقة في الذكاء الاصطناعي. هناك خطر حدوث أضرار جانبية كبيرة إذا تم وضع السياسات بناءً على تعريفات غير واضحة أو غامضة.
- منظور متوازن: وجدت المراجعة توازنًا جيدًا بشكل معقول بين الدراسات التي تستكشف الآثار الإيجابية والسلبية للذكاء الاصطناعي على التحيز والتمييز، مما يعكس موقفًا محايدًا بين الباحثين. يشير هذا إلى أن مجتمع البحث يدرك السيف ذو الحدين الذي يمثله الذكاء الاصطناعي.
ثامنا: الخاتمة
تقدم هذه المراجعة المنهجية تحليلًا شاملاً للبحث حول التحيز والتمييز في الذكاء الاصطناعي، لا سيما في مجال إدارة الموارد البشرية. وجدت المراجعة ما يلي: هناك نقص كبير في التعريفات الواضحة للتحيز والتمييز في الأدبيات. أن هناك تنوعًا مفاهيميًا كبيرًا في كيفية استخدام هذه المصطلحات. أن أشكالًا معينة من التحيز (العرق والجنس) تهيمن على مشهد البحث. وأن هناك توازنًا جيدًا بشكل معقول في البحث الذي يستكشف الآثار الإيجابية والسلبية للذكاء الاصطناعي في إدارة الموارد البشرية. إن معالجة هذه التحديات المفاهيمية والفجوات البحثية أمر بالغ الأهمية لتطوير المجال ووضع استراتيجيات فعالة للتخفيف من التحيز وتعزيز الإنصاف في أنظمة الذكاء الاصطناعي. يجب أن يركز البحث في المستقبل على: * تطوير تعريفات موحدة للتحيز والتمييز * استكشاف أنواع مختلفة من أنظمة الذكاء الاصطناعي وإمكاناتها للتحيز * التحقيق في الأشكال الممثلة تمثيلاً ناقصًا للتحيز والتمييز * وضع إرشادات عملية لمعالجة التحيز في تطبيق الذكاء الاصطناعي، خاصة في مجالات مثل إدارة الموارد البشرية.
تسلط النتائج التي توصلت إليها هذه المراجعة الضوء على الحاجة إلى نهج أكثر صرامة وشمولية لبحوث تحيز الذكاء الاصطناعي لضمان التطوير الأخلاقي والمسؤول لتقنيات الذكاء الاصطناعي.
(Kekez et al., 2025)
المراجع:
Kekez, I., Lauwaert, L., & Begičević Ređep, N. (2025). Is artificial intelligence (AI) research biased and conceptually vague? A systematic review of research on bias and discrimination in the context of using AI in human resource management. Technology in Society, 81. https://doi.org/10.1016/j.techsoc.2025.102818
ما هو الشاغل الأساسي عند مناقشة أخلاقيات أبحاث الذكاء الاصطناعي، خاصة في سياق إدارة الموارد البشرية؟
يتمحور الشاغل الرئيسي حول احتمالية قيام أنظمة الذكاء الاصطناعي بإدامة أو حتى تضخيم التحيز والتمييز. وغالبًا ما يتجلى ذلك في صورة أدوات الذكاء الاصطناعي التي تعيد إنتاج الصور النمطية الجنسية أو العنصرية أو التعامل مع الأفراد بشكل غير متساوٍ استنادًا إلى خصائص محمية مثل العرق أو الجنس أو العمر. وهذا الأمر حساس بشكل خاص في إدارة الموارد البشرية نظرًا لتأثيره المباشر على المسارات المهنية للأفراد وسبل عيشهم.
لماذا من المهم تعريف مصطلحات مثل "التحيز" و"التمييز" في أبحاث الذكاء الاصطناعي؟
يُعد تعريف هذه المصطلحات أمرًا بالغ الأهمية للدقة العلمية وإمكانية المقارنة. فبدون تعريفات واضحة، قد تكون الدراسات غير واضحة بشأن محور تركيزها، مما يجعل من الصعب مقارنة النتائج أو تحديد ما إذا كانت النتائج متسقة. كما يمكن أن يؤدي عدم وجود تعريف إلى خلق مشاكل لصانعي السياسات الذين يعتمدون على البحث من أجل التوجيه. فإذا كان باحثون مختلفون يقصدون أشياء مختلفة بنفس المصطلح، فقد يؤدي ذلك إلى سياسات غير فعالة، وانخفاض الثقة في الذكاء الاصطناعي، وعواقب سلبية أخرى غير مقصودة.
ما هي منهجية البحث المستخدمة لتحليل التحيز والتمييز في الذكاء الاصطناعي في إدارة الموارد البشرية؟
اعتمدت الدراسة مراجعة منهجية للأدبيات باستخدام إطار عمل PRISMA (عناصر التقارير المفضلة للمراجعات المنهجية وتحليل البيانات المجمعة). وشمل ذلك أربع مراحل: (1) تحديد الأدبيات ذات الصلة من قواعد البيانات الإلكترونية؛ (2) الفحص بناءً على العنوان والملخص؛ (3) تقييم أهلية المنشورات كاملة النص؛ و(4) الإدراج من أجل تحليل المحتوى النهائي. وقد ضمنت هذه الطريقة الصارمة اتباع نهج منهجي وشفاف لجمع البيانات وتحليلها.
ما هي بعض الأمثلة على أنواع محددة من التحيز والتمييز التي غالبًا ما يتم تحديدها في أنظمة الذكاء الاصطناعي لإدارة الموارد البشرية؟
حددت الأبحاث مجموعة واسعة من التحيزات وأنواع التمييز، بما في ذلك:
- التحيزات: التحيز الخوارزمي، وتحيز البيانات (بما في ذلك تحيز البيانات التاريخية، والتحيز القائم على البيانات، وما إلى ذلك)، والتحيز المعرفي، والتحيز اللاواعي، والتحيز البشري، والتحيز الجنساني، والتحيز العنصري، والتحيز الاجتماعي، والتحيز في الذكاء الاصطناعي، وغيرها الكثير.
- التمييز: نظرية التمييز، والتمييز غير المباشر، والتأثير المتباين، والتمييز المباشر، والتمييز السابق، والتمييز الخوارزمي، والمعاملة المتباينة، والتمييز الجنساني.
تسلط هذه الأشكال المختلفة من التحيز والتمييز الضوء على العديد من المجالات التي يمكن أن يتسبب فيها الذكاء الاصطناعي في ضرر محتمل إذا لم يتم تصميمه وتنفيذه بعناية.
ما هي المواضيع الرئيسية التي تمت مناقشتها في الدراسات المتعلقة بالتحيز والتمييز في إدارة الموارد البشرية؟
ركزت الدراسات في أغلب الأحيان على مواضيع:
- الجنس: التحيز والتمييز القائمان على الهوية الجنسية.
- العرق: التحيز والتمييز القائمان على الهوية العرقية.
- العمر: التحيز والتمييز القائمان على العمر.
ومن بين المواضيع الأخرى التي لم يتم تناولها بشكل كافٍ: العرق، والثقافة، والإعاقات، والمظهر/الشكل، والميل الجنسي، والدين/العقيدة، والأصل، والوضع الاجتماعي والاقتصادي، مع اتباع بعض الدراسات أيضًا نهجًا عامًا أو واسعًا. وهذا يسلط الضوء على الجنس والعرق والعمر باعتبارها المجالات التي يتم فيها النظر في التحيز والتمييز بشكل شائع في سياقات إدارة الموارد البشرية التي تستخدم الذكاء الاصطناعي.
ماذا يكشف البحث عن مدى جودة تعريف التحيز والتمييز ومعالجتهما في الأدبيات الموجودة؟
كشفت الدراسة عن نقص كبير في الوضوح التعريفي. ففي حين أن عددًا كبيرًا من الدراسات (أكثر من 50%) تناولت التحيز والتمييز، إلا أن عددًا مماثلًا لم يقدم تعريفات صريحة أو واضحة لهذه المصطلحات. ويمثل عدم وجود تعريف تحديًا كبيرًا للباحثين الذين يسعون إلى مقارنة النتائج أو تكرارها. حتى الدراسات التي تقدم تعريفات لهذه المصطلحات تستخدمها بطرق متنوعة للغاية، مما يؤدي أحيانًا إلى استنتاجات متناقضة. كما أشارت الدراسة إلى أنه في حين أن 70.5% من المصطلحات المحددة تتعلق بشكل من أشكال التحيز، فإن 29.5% فقط تتعلق بالتمييز.
هل يركز البحث الحالي عن الذكاء الاصطناعي في إدارة الموارد البشرية بشكل أكبر على النتائج المرغوبة أم غير المرغوبة؟
كشف البحث أنه في حين أن العديد من الدراسات تناقش الآثار الإيجابية للذكاء الاصطناعي في إدارة الموارد البشرية، لا يزال هناك تركيز كبير على الآثار السلبية. فمن بين المنشورات التي استوفت بالكامل المعايير المحددة في الدراسة، تمت معالجة الآثار السلبية للذكاء الاصطناعي (خاصة فيما يتعلق بالتحيز والتمييز) بشكل أكثر تكرارًا، تليها تلك التي لها وجهات نظر متوازنة، وأخيرًا تلك التي لها توقعات إيجابية في المقام الأول. وهذا يشير إلى أن مجتمع البحث قد بدأ في إيلاء اهتمام جاد للعواقب السلبية المحتملة للذكاء الاصطناعي.
ما هي آثار التنوع المفاهيمي المحيط بالتحيز والتمييز على السياسة والبحث؟
يؤدي تنوع المفاهيم الكامنة وراء استخدام مصطلحي "التحيز" و"التمييز" إلى تعقيد كل من البحث وصنع السياسات بشكل كبير. فعدم الوضوح واستخدام المصطلحات بطرق مختلفة يجعل من الصعب مقارنة نتائج الدراسات المختلفة، ويعيق إمكانية التكرار، ويشكل مشكلة كبيرة لتطوير السياسات القائمة على الأدلة. وقد تكون السياسات القائمة على تفسير محدد لـ"التحيز" أو "التمييز" غير فعالة إذا لم تتوافق هذه التفسيرات مع الطريقة التي يستخدم بها الباحثون والممارسون هذه المصطلحات. ويتطلب هذا التنوع المفاهيمي من الباحثين أن يكونوا واضحين بشأن كيفية تعريفهم واستخدامهم للمصطلحات، ومن صانعي السياسات أن يدركوا أنه لا يوجد تفسير واحد لهذه المصطلحات.
اضافة تعليق