جوجل تسحب نموذج Gemma بعد اتهامات بالافتراءات والتضليل
سحبت جوجل نموذج الذكاء الاصطناعي Gemma من منصة AI Studio بعد تقارير عن “هلوسات” وأخبار كاذبة، وذلك بعد اتهامات برفع افتراءات ضد سياسية أمريكية.
تفاصيل الخبر
فيما يلي أبرز ما حدث حول نموذج Gemma:
- نموذج Gemma صُمم للمطورين والبحث العلمي وليس للاستخدام العام أو لتقديم معلومات موثوقة للمستهلكين.
- تظهر النماذج أحيانًا “هلوسات”، أي اختلاق معلومات، و”تملق”، أي قول ما يود المستخدم سماعه، وهي تحديات شائعة في نماذج الذكاء الاصطناعي المفتوحة والصغيرة.
- سحب النموذج جاء بعد رسالة من السيناتور مارشا بلاكبيرن التي اتهمت Gemma بتلفيق اتهامات جنسية كاذبة ضدها.
- أمثلة على الهلوسات تضمنت نسب أحداث غير صحيحة لعام 1987 وادعاءات غير موجودة عن ضابط شرطة، بينما كان العام الفعلي للحملة 1998.
- جوجل أكدت أن النموذج يُستخدم عادةً في بيئة التطوير والبحث، وأن السحب من AI Studio يهدف لمنع الاستخدام غير المقصود من قبل العامة، مع استمرار توفيره عبر واجهة API.
- أشار مسؤول في جوجل إلى أن معالجة “الهلوسات” قضية معروفة ويعمل الفريق على التخفيف منها، لكن السيناتور اعتبرت ذلك “افتراءً فعلياً” وليس مجرد خطأ غير مؤذي.
الأهداف المستقبلية
هذه أهم الخطوات المستقبلية لجوجل:
- تعزيز توعية المطورين باستخدام نماذج مثل Gemma فقط للأبحاث والتطوير.
- تحسين دقة المعلومات وتقليل الهلوسات في نماذج الذكاء الاصطناعي المفتوحة.
- تطوير آليات مراقبة لمنع استخدام النماذج لأغراض غير مقصودة من قبل الجمهور.
- مواصلة تقديم النموذج عبر API مع ضوابط واضحة للبحث والتطوير فقط.
توضح أزمة Gemma التحديات الكبيرة التي تواجهها نماذج الذكاء الاصطناعي المفتوحة، حيث الجمع بين الابتكار وحماية الأفراد من المعلومات المضللة أصبح أولوية رئيسية لشركات التقنية.
