أنثروبيك تطور حماية Fable 5 لتقديم إجابات أوسع في الأحياء
أعلنت أنثروبيك عن تحديث نظام الأمان في Fable 5، بهدف تقليل الرفض غير الضروري للأسئلة المتعلقة بالأحياء والصحة والتعليم، مع الإبقاء على قيود صارمة أمام الاستخدامات التي قد تشكل خطرًا بيولوجيًا.
تفاصيل الخبر
عملت أنثروبيك على إعادة تصميم المصنف المسؤول عن تحديد نوع الأسئلة البيولوجية التي يمكن لـFable 5 الإجابة عنها، بعد أن تسبب نظام الحماية السابق في رفض عدد كبير من الأسئلة العادية وتحويلها إلى نموذج Opus الأقل قدرة في بعض المهام.
ويهدف التحديث الجديد إلى إيجاد توازن أفضل بين تقديم إجابات مفيدة للمستخدمين والحفاظ على معايير السلامة في المجالات البيولوجية الحساسة.
ومن أبرز التغييرات:
- انخفضت عمليات تحويل الأسئلة إلى Opus بنحو 85% بعد إعادة تصميم نظام التصنيف.
- أصبح Fable 5 قادرًا على التعامل مع المزيد من الأسئلة اليومية المتعلقة بالصحة والأحياء.
- يمكن للنموذج المساعدة في فهم نتائج التحاليل والمعلومات الصحية العامة ضمن الحدود المسموح بها.
- أصبح مناسبًا بدرجة أكبر للتعلم ودراسة موضوعات علم الأحياء.
- لا تزال الأسئلة المرتبطة بالاستخدامات البيولوجية المزدوجة تخضع لقيود إضافية.
- تشمل هذه القيود موضوعات حساسة مثل علم الفيروسات والسموم والتصميم الجزيئي.
- الأسئلة التي قد تساعد في تطوير تطبيقات خطرة يتم تحويلها إلى أنظمة أكثر ملاءمة للتعامل معها.
وتوضح أنثروبيك أن تخفيف القيود لا يحدث بصورة عشوائية، بل يرتبط بتحسين أنظمة التصنيف والحماية. وتأتي هذه الخطوة في ظل المخاوف من أن النماذج المتقدمة قد توفر معرفة يمكن استخدامها لأغراض مفيدة، لكنها قد تساعد أيضًا جهات سيئة النية إذا لم تكن هناك ضوابط مناسبة.
الأهداف المستقبلية
تسعى أنثروبيك من خلال هذا التحديث إلى الوصول إلى نموذج يستطيع تقديم مساعدة واسعة في العلوم والصحة، دون السماح له بتوفير إرشادات يمكن أن تسهم في تطوير أسلحة بيولوجية أو تطبيقات خطرة.
ومن المتوقع أن تركز التحديثات المستقبلية على:
- تحسين قدرة أنظمة الأمان على التمييز بين الأسئلة التعليمية والطلبات الخطرة.
- تقليل حالات الرفض الخاطئ للأسئلة العلمية المشروعة.
- توفير أدوات أكثر فائدة للطلاب والباحثين في المجالات غير الحساسة.
- تطوير وسائل أفضل للتعامل مع الأسئلة التي تجمع بين الاستخدامات المفيدة والخطرة.
- توسيع قدرات النموذج تدريجيًا مع تحسن اختبارات السلامة والتقييمات البيولوجية.
ومع ذلك، لا يزال هناك تحدٍ واضح أمام الباحثين الذين يحتاجون إلى قدرات متقدمة في مجالات مثل تطوير الأدوية والبحث في علم الفيروسات، إذ يمكن أن تتداخل هذه الاستخدامات المشروعة مع معلومات يمكن إساءة استخدامها.
يمثل تحديث Fable 5 محاولة لتحقيق توازن بين الفائدة والسلامة في استخدام الذكاء الاصطناعي للعلوم البيولوجية. ومع استمرار تطور هذه النماذج، سيكون تحسين أنظمة الحماية عاملًا أساسيًا لتوسيع قدراتها دون زيادة المخاطر المرتبطة بها.
