Anthropic تمنح باحثين صلاحيات لتقييم سلامة الذكاء الاصطناعي
أعلنت Anthropic منح ستة باحثين من منظمة METR المستقلة صلاحيات وصول واسعة إلى أنظمتها الداخلية وأدواتها، بهدف تقييم سلامة نماذج الذكاء الاصطناعي ومخاطرها، مع السماح بنشر نتائج التقييمات دون الحاجة إلى موافقة الشركة المسبقة.
تفاصيل الخبر
تسعى شركة Anthropic إلى تعزيز الشفافية والمساءلة في تطوير نماذج الذكاء الاصطناعي المتقدمة، من خلال منح جهات مستقلة إمكانية فحص ممارسات السلامة وتقييم المخاطر بصورة أكثر عمقًا. ويأتي هذا التوجه في ظل تزايد قدرات النماذج المتقدمة والحاجة إلى آليات رقابة خارجية تساعد على اكتشاف المخاطر المحتملة قبل أن تتفاقم.
وفي إعلان نشرته الشركة في 15 أكتوبر 2026، أوضحت أنها بدأت العمل مع فريق من منظمة METR غير الربحية، المتخصصة في تقييم نماذج الذكاء الاصطناعي المتقدمة، وفق مجموعة من الإجراءات التي تشمل:
- وصول واسع إلى الأنظمة الداخلية: منحت Anthropic ستة باحثين من METR أجهزة عمل ومساحات مكتبية وإمكانية الوصول إلى أدوات وأنظمة داخلية، بمستوى يقارب ما يتاح لفرق تقييم المخاطر التابعة للشركة.
- استقلالية نشر النتائج: تستطيع METR نشر تحليلاتها بشأن مستويات المخاطر والحوادث وممارسات السلامة دون أن تمتلك Anthropic حق منع النشر، مع إمكانية طلب حجب معلومات محددة تندرج ضمن فئات سرية متفق عليها مسبقًا.
- حماية المعلومات الحساسة: يستثني الاتفاق بعض البيانات، مثل معلومات العملاء والمواد المحمية بالسرية القانونية وتفاصيل معينة عن بنية النماذج، بهدف تحقيق التوازن بين الشفافية وحماية المعلومات السرية.
- توسيع التعاون مع جهات مستقلة: تعمل Anthropic أيضًا مع SecureBio وAccenture، وتجري مناقشات أولية مع جهات أخرى، من بينها Hugging Face.
- تطوير مستويات مختلفة من التقييم: وضعت الشركة إطارًا يتكون من ثلاثة مستويات للتعاون، تختلف بحسب حجم المعلومات المتاحة للمقيّمين ومدى استقلاليتهم في نشر النتائج.
وتوضح Anthropic أن هذا النهج يشبه بعض جوانب الرقابة المصرفية، حيث يعمل خبراء مستقلون على فحص المخاطر من داخل المؤسسات بدلًا من الاعتماد حصريًا على المعلومات التي تختار المؤسسة نشرها. وتكمن أهمية هذه الخطوة في منح المقيّمين صورة أكثر اكتمالًا عن كيفية تدريب النماذج وتشغيل إجراءات الحماية وتقييم المخاطر.
الأهداف المستقبلية
تطمح Anthropic إلى تطوير منظومة أكثر استقلالية لتقييم سلامة الذكاء الاصطناعي، مع التركيز على مجموعة من الأهداف المستقبلية:
- تعزيز الرقابة المستقلة: توسيع نطاق مشاركة الجهات الخارجية في تقييم النماذج المتقدمة وممارسات السلامة.
- تحسين اكتشاف المخاطر: تمكين الباحثين من فحص قدرات النماذج وإجراءات الحماية ورصد أوجه القصور المحتملة.
- زيادة الشفافية: نشر تقييمات مستقلة تساعد الجمهور والجهات المعنية على فهم المخاطر المرتبطة بتطوير الذكاء الاصطناعي.
- توسيع الشراكات: الانتقال تدريجيًا إلى منح المزيد من المؤسسات المستقلة مستويات أعمق من الوصول والصلاحيات.
- وضع معايير أكثر وضوحًا: تطوير آليات توازن بين حرية البحث والنشر وحماية المعلومات الحساسة والملكية الفكرية.
وتؤكد الشركة أن هدفها لا يقتصر على تقييم نماذجها الحالية، بل يشمل أيضًا تطوير أساليب تعاون يمكن أن تستفيد منها شركات الذكاء الاصطناعي الأخرى، بحيث تصبح التقييمات المستقلة جزءًا أساسيًا من عمليات تطوير النماذج المتقدمة.
تمثل خطوة Anthropic نحو منح باحثين مستقلين صلاحيات واسعة لتقييم أنظمتها تطورًا مهمًا في مجال سلامة الذكاء الاصطناعي. فإتاحة الوصول إلى المعلومات الداخلية مع الحفاظ على استقلالية نشر النتائج قد تساعد على تعزيز الثقة والكشف المبكر عن المخاطر، لكن نجاح هذا النهج سيعتمد على مدى اتساع تطبيقه وفاعلية التقييمات المستقلة في المستقبل.
