دراسة: أدوات الذكاء الاصطناعي تتلاعب بالرأي العام ونصوصنا
حذّر باحثون من جامعات أوكسفورد وبوتسدام من أن أدوات الذكاء الاصطناعي المستخدمة في إعادة صياغة النصوص أو تلخيصها قد تقوم أحيانًا بتغيير المعنى الأصلي للمحتوى عند التعامل مع قضايا حساسة مثل الإجهاض، المناخ، والدين، وهو ما قد يؤدي على المدى الطويل إلى تشكيل أو تشويه الرأي العام.
تفاصيل الدراسة
حلّل الباحثون سلوك نماذج ذكاء اصطناعي من عدة شركات تقنية كبرى، ووجدوا أن بعض هذه الأنظمة تُدخل تحيزات غير مقصودة حتى عندما يُطلب منها الحفاظ على المعنى الأصلي للنص.
وأبرز النتائج:
- أدوات الذكاء الاصطناعي غيّرت معنى منشورات سياسية ودينية في اختبارات متعددة.
- بعض النماذج قامت بعكس المعنى بالكامل في حالات مثل:
- تحويل محتوى يشكك في وجود شخصيات دينية إلى نصوص تؤكد وجودها.
- إعادة صياغة منشورات عن المناخ بطريقة تدعم خطابًا بيئيًا مختلفًا عن الأصل.
- اختلاف واضح في “التحيزات” بين النماذج:
- بعض النماذج تميل إلى صياغات أكثر ليبرالية في قضايا اجتماعية.
- نماذج أخرى أظهرت ميولًا مختلفة بحسب سياسات الشركة المطوِّرة.
- أدوات “إعادة الكتابة” و“التلخيص” قد تضيف تفسيرات أو سياقات لم تكن موجودة في النص الأصلي.
- الباحثون حذّروا من أن التعديلات البسيطة في النصوص يمكن أن تتراكم عبر ملايين المستخدمين وتؤثر على الخطاب العام.
- الدراسة تشير إلى وجود فجوة تنظيمية، حيث لا تغطي القوانين الحالية هذه المشكلة بشكل كافٍ.
- الخبراء يرون أن الخطر لا يقتصر على التحيز، بل يمتد إلى فقدان دقة “صوت المستخدم” نفسه.
الأهداف المستقبلية
تسلّط الدراسة الضوء على الحاجة إلى تطوير أدوات ذكاء اصطناعي أكثر شفافية ودقة في التعامل مع النصوص البشرية، ومن أبرز التوصيات:
- تحسين نماذج إعادة الصياغة لتجنب تغيير المعنى الأصلي.
- تطوير أنظمة تكشف التحيز داخل مخرجات الذكاء الاصطناعي.
- وضع معايير تنظيمية تحكم استخدام أدوات الكتابة والتلخيص.
- تعزيز حق المستخدم في التحكم الكامل في صياغة نصه دون تعديل غير مرغوب.
- زيادة الشفافية حول كيفية توليد أو تعديل المحتوى.
- تقليل تأثير “الوسيط الذكي” بين المستخدم والجمهور في المنصات الرقمية.
تشير النتائج إلى أن الذكاء الاصطناعي لم يعد مجرد أداة لتحسين الكتابة، بل أصبح عنصرًا مؤثرًا في تشكيل اللغة والمعنى، ما يفرض تحديات جديدة تتعلق بالحياد، والدقة، وحرية التعبير في العصر الرقمي.
