Anthropic تعتذر عن قيود Fable 5 وتعد بتحسين الشفافية
قدمت شركة Anthropic اعتذاراً بعد موجة انتقادات واسعة طالت نموذجها الجديد Fable 5، وذلك بسبب آليات أمان اعتُبرت مفرطة وتؤثر على جودة وشفافية الإجابات، خاصة في المجالات العلمية والتقنية.
تفاصيل الخبر
أُطلق نموذج Fable 5 كأول نموذج عام من فئة Mythos، لكنه واجه جدلاً سريعاً بسبب سياسات تصفية المحتوى الصارمة.
- يتضمن النموذج فلاتر تغطي موضوعات مثل الكيمياء، الأحياء، الأمن السيبراني وتطوير الذكاء الاصطناعي.
- اشتكى مستخدمون من أن النظام يقلل جودة الإجابات دون إبلاغ واضح عند تفعيل القيود.
- لاحقاً، بدأت الشركة بإظهار تنبيهات توضح عندما يتم إعادة توجيه أو تعديل الإجابات.
- وصف بعض الباحثين هذه التغييرات بأنها “مضللة” لأنها تتم دون شفافية كاملة للمستخدم.
- انتشرت شكاوى من أن النموذج يرفض أحياناً محادثات بسيطة جداً بسبب سياسات الأمان.
الأهداف المستقبلية
تسعى Anthropic إلى تحسين التوازن بين الأمان وإتاحة المعرفة داخل نماذجها الجديدة.
- تعزيز شفافية أنظمة التصفية وإبلاغ المستخدم عند تفعيلها.
- تقليل القيود غير الضرورية على الاستخدامات العلمية المشروعة.
- تحسين جودة الإجابات في المجالات التقنية الحساسة.
- تطوير آليات أمان لا تعيق البحث الأكاديمي.
- الاستجابة لملاحظات الباحثين والمجتمع العلمي.
الخاتمة
يعكس الجدل حول Fable 5 التحدي المستمر في تصميم نماذج ذكاء اصطناعي آمنة دون التأثير على فائدتها البحثية، وهو توازن حساس يتزايد أهميته مع تطور النماذج المتقدمة.
