التحيز في الذكاء الصناعي: الأنواع والأمثلة وأفضل حلول 2025

مع توسع استخدام الذكاء الاصطناعي في الآونة الأخيرة، برزت مشكلة خطيرة تُعرف باسم التحيز في الذكاء الصناعي، والتي تؤدي إلى اتخاذ قرارات غير عادلة نتيجة تدريب الأنظمة على بيانات غير محايدة.

تُعد هذه المشكلة من أبرز تحديات الذكاء الاصطناعي، وتكمن خطورتها في تأثيرها المباشر على الأفراد والمؤسسات، والتوظيف، والرعاية الصحية، والخدمات المالية، وحتى أنظمة العدالة.

في هذا المقال، نستعرض تعريف التحيز في الذكاء الاصطناعي، وأنواعه الشائعة، وأبرز الأمثلة الواقعية عليه، ثم نوضح أفضل الممارسات المتبعة لتقليل مخاطره.

ما هو تحيز الذكاء الاصطناعي؟

التحيز في الذكاء الصناعي هو إنتاج الخوارزميات لنتائج غير عادلة أو منحازة، نتيجة وجود تحيز بشري في البيانات التي دُربت عليها.

قد تبدو المشكلة بسيطة للوهلة الأولى، لكن عند تطبيق تلك الخوارزميات على نطاق واسع، ينتج عنها خلل في دقة الذكاء الاصطناعي، وظلم لبعض الفئات من البشر مثل أصحاب البشرة السمراء أو النساء، وبالتالي يؤثر سلباً على نجاح الشركات التي تستخدمه.

برغم الاستخدام الواسع للذكاء الاصطناعي في مختلف المجالات، إلا أن مشكلة التحيز تُعد من التحديات القائمة التي تحاول الشركات الكبيرة التغلب عليها بأي طريقة.

أهم أنواع التحيز في الذكاء الصناعي

يمكن أن يؤدي التحيز في الذكاء الاصطناعي إلى العديد من العواقب الوخيمة، وإليك أبرز أنواع التحيز وتأثيراتها المحتملة:

تحيز الاختيار

يحدث تحيز الاختيار عندما تكون البيانات المُستخدمة في تدريب النموذج لا تعكس الواقع بشكل كافي، مثل تدريب النموذج على التعرف على الأشخاص ذوي البشرة الفاتحة فقط، وبالتالي لا يمكنه التعرف على ذوي البشرة الداكنة بسهولة.

تحيز التأكيد

يظهر تحيز التأكيد كأحد أبرز أنواع التحيز في الذكاء الصناعي عندما يكون النموذج معتمد بشكل كبير على الأنماط السابقة في البيانات، مثل أنظمة التوظيف التي اكتشفت أن معظم الناجحين في الماضي كانوا من الذكور، وبالتالي يفضل الذكور بشكل تلقائي.

تحيز القياس

يحدث تحيز القياس عندما تكون البيانات لا تعكس بشكل دقيق الهدف الذي نسعى إليه، مثل تقييم دورة تعليمية بناءً على عدد من أكملوا الدورة فقط وعدم وضع العدد المنسحب في الاعتبار. 

تحيز القوالب النمطية

تحيز القوالب النمطية أحد أنواع تحيز الذكاء الاصطناعي، إذ تعتمد النماذج على صورة نمطية غير صحيحة، مثل الربط بين كلمة ممرضة والضمير المؤنث، أو كلمة طبيب والضمير المذكر. 

تحيز التماثل

يتعامل تحيز التماثل مع كل الأفراد من مجموعة معينة مهمشة على أنهم نفس الشخص تماماً مهما كانوا مختلفين، مثل عدم قدرة نموذج الذكاء الاصطناعي على التفريق بين صور الأشخاص ذوي البشرة السمراء. 

أمثلة على تحيز الذكاء الاصطناعي

التحيز في الذكاء الصناعي ليس مجرد كلاماً نظرياً، بل هو أمر واقعي حدث بالفعل في العديد من المؤسسات الكبرى، أهمها ما يلي: 

التوظيف المتحيز في أمازون

طوّرت شركة Amazon أداة تعتمد على الذكاء الاصطناعي في اختيار الموظفين، لكن تبين في وقت لاحق أن تلك الأداة كانت تهمش السير الذاتية التي تقدمها النساء، وكانت تفضل خريجي الجامعات المختلطة على خريجي الجامعات النسائية.

التحيز في نظام العدالة الأمريكية

استخدمت المحاكم الأمريكية خوارزمية تُسمى COMPAS لتوقع احتمالية عودة المتهم لارتكاب الجريمة، وكشفت التحليلات أن الخوارزمية كانت تقيم المتهم صاحب البشرة السوداء على أنه “عالي الخطورة” بمعدل ضعف تقييم المتهمين ذوي البشرة البيضاء.

التحيز العرقي في الرعاية الصحية الأمريكية

أظهرت بعض الدراسات أن الخوارزميات الصحية قللت من عدد المرضى السود المرشحين للرعاية الطبية بنسبة تزيد عن 50%، ويرجع ذلك التحيز في أخلاقيات الذكاء الاصطناعي إلى أن المرضى السود تلقوا رعاية طبية أقل على مدار التاريخ، وبالتالي قيمتهم الخوارزميات على أنهم أقل احتياجاً من غيرهم. 

تحيز الخوارزميات في بطاقات Apple

واجهت شركة Apple موجة من الانتقادات عندما منحت الخوارزميات التي تدير البطاقات النساء حدود ائتمان أقل بكثير من الرجال، رغم أن درجاتهم الائتمانية كانت أعلى. 

التحيز في أدوات الذكاء الاصطناعي التوليدي

ظهر هذا التحيز بوضوح عندما طُلب من تلك الأدوات توليد صور لمدير شركات أو مهندس، فكانت الصور كلها عبارة عن رجال ذوي بشرة بيضاء، أما صور عمال النظافة أو الممرضات، فكانت صوراً لسيدات أو رجال ذوي بشرة سمراء. 

أفضل طرق معالجة تحيز الذكاء الاصطناعي

ينصح الخبراء باتباع مجموعة من التعليمات لتجنب التحيز في الذكاء الصناعي، تعرف عليها فيما يلي.

اختيار النموذج التعليمي المناسب

يجب أن يكون الفريق المسؤول عن اختيار البيانات فريقاً متنوعاً ويضم مختصين من خلفيات متعددة، كما يجب أن يمتلك الوعي الكافي بالتحيزات المختلفة، خاصةً عند استخدام نماذج التعلم الخاضعة للإشراف.

في حالة النماذج غير الخاضعة للإشراف، يجب تضمين أدوات داخل الشبكات العصبية للكشف عن التحيز. 

التدريب على بيانات صحيحة

يجب التأكد من أن البيانات المُستخدمة تعكس الواقع بحيادية وعدل، لأن استخدام بيانات غير كاملة أو غير دقيقة يؤدي إلى نتائج متحيزة. 

تكوين فريق عمل متنوع

يساعد تنوع أفراد فريق العمل -من حيث العرق أو المستوى التعليمي أو النوع الاجتماعي- إلى اكتشاف جميع التحيزات الممكنة بدقة. 

معالجة البيانات بعناية 

يجب ملاحظة أن التحيز يمكن أن يتسرب إلى البيانات خلال أي مرحلة من مراحل معالجة البيانات، بما في ذلك قبل المعالجة أو خلالها أو بعدها. 

المراقبة المستمرة

من الضروري مراقبة أداء النظام بشكل ثابت ودوري، وباستخدام بيانات متنوعة، كما يُفضل الاستعانة بطرف خارجي موثوق لتقييم مدى حيادية النماذج.

تجنب مشكلات البنية التحتية

يمكن أن يكون التحيز ناتجاً عن أعطال أو عيوب تقنية في الأجهزة، مثل أجهزة الاستشعار أو المعدات، لذا تأكد من الاستثمار في بناء بنية تحتية يمكن الاعتماد عليها. 

الخلاصة

يُعد التحيز في الذكاء الصناعي من أبرز التحديات الأخلاقية والتقنية التي نواجهها في الوقت الحالي، ورغم أن الحلول التقنية تتطور يوماً بعد يوم، إلا أن ضمان العدالة يتطلب المراجعة البشرية المستمرة.

الأسئلة الشائعة