OpenAI تقلل الانحياز السياسي في GPT-5 بنسبة 30٪
كشفت شركة OpenAI عن نتائج بحث جديدة تشير إلى أن نموذجها GPT-5 أظهر انخفاضاً في الانحياز السياسي بنسبة 30٪ مقارنة بالإصدارات السابقة، وفق اختبارات شملت مئات الموضوعات السياسية.
تفاصيل الخبر
بداية: بحث جديد من OpenAI يُظهر تقدماً في تقليل الانحياز داخل النماذج اللغوية
- أجرى الباحثون في OpenAI اختبارات على 500 سؤال سياسي متنوع، تراوحت بين توجهات “ليبرالية” و“محافظة”، لقياس مدى الحياد في الردود.
- تم تقييم أداء النماذج بناءً على خمسة مقاييس رئيسية للانحياز، شملت مدى التحيز في اللغة، والتفضيل الفكري، والتفاعل العاطفي.
- نموذج GPT-5 تفوق على النماذج السابقة خاصة في الأسئلة المشحونة عاطفياً، حيث أظهر اتزاناً أكبر في اختيار المفردات وصياغة المواقف.
- رغم التقدم، لاحظ الباحثون أن الأسئلة ذات الطابع الليبرالي القوي ما زالت تولد انحيازاً أعلى قليلاً مقارنة بالمحافظة.
- تشير تقديرات OpenAI إلى أن أقل من 0.01٪ من المحادثات الفعلية عبر ChatGPT تُظهر أي انحياز سياسي قابل للقياس.
- الفريق البحثي حدد ثلاثة أنماط رئيسية للانحياز:
- إظهار النموذج لآراء سياسية كما لو كانت وجهة نظره الشخصية.
- التركيز على منظور واحد دون عرض البدائل.
- تضخيم اللغة العاطفية التي يستخدمها المستخدم في سؤاله.
الأهداف المستقبلية لـ OpenAI
تركز الشركة في المرحلة المقبلة على:
- تطوير خوارزميات تقييم دقيقة للكشف عن الانحياز قبل الإطلاق التجاري.
- تدريب النماذج على بيانات متوازنة تشمل أطيافاً فكرية متعددة.
- تحسين قدرة النموذج على التعامل مع الموضوعات الحساسة دون توجيه المستخدم.
- بناء أنظمة مراقبة مستمرة لتتبع الانحياز في المحادثات الفعلية.
- تعزيز الشفافية في كيفية معالجة النماذج للمحتوى السياسي والاجتماعي.
يمثل تقليل الانحياز السياسي في GPT-5 خطوة مهمة نحو نماذج أكثر عدلاً وموثوقية. ومع استمرار الأبحاث، تسعى OpenAI إلى ضمان أن يكون الذكاء الاصطناعي أداة للحوار المتوازن لا وسيلة لتشكيل الرأي العام بشكل غير مقصود.
