رئيس Anthropic يدعو إلى ضرورة تفسير آليات الذكاء الاصطناعي
في مقال حديث، أكد الرئيس التنفيذي لشركة Anthropic أن فهم آلية عمل نماذج الذكاء الاصطناعي AI أمر ضروري لحمايتنا مع تسارع تطور آليات نماذج الذكاء الاصطناعي AI.
تفاصيل الخبر
شدد داريو أمودي، الرئيس التنفيذي لشركة Anthropic، على أهمية التفسير الآلي للذكاء الاصطناعي، موضحًا أبرز النقاط التالية:
- أوضح أن الذكاء الاصطناعي يختلف عن البرمجيات التقليدية بسبب نشوء القرارات بشكل عضوي داخل النموذج، مما يصعّب فهم عملياته حتى على مبرمجيه.
- كشف أن فريقه نجح في رسم خريطة لأكثر من 30 مليون “ميزة” داخل نموذج Claude 3 Sonnet، تمثل مفاهيم معينة يفهمها ويعالجها النموذج.
- شبه الهدف النهائي بتطوير جهاز “رنين مغناطيسي للذكاء الاصطناعي” لتشخيص النماذج وفهم طريقة عملها بوضوح أكبر.
- حذر من أن سرعة تطور الذكاء الاصطناعي تتجاوز تقدم أدوات تفسيره، مما قد يجعلنا نواجه أنظمة تعادل “دولة من العباقرة داخل مركز بيانات” بحلول عام 2026.
الأهداف المستقبلية
تسعى Anthropic إلى:
- تطوير أدوات دقيقة لفهم العمليات الداخلية لنماذج الذكاء الاصطناعي.
- جعل تفسير الذكاء الاصطناعي أولوية قبل إطلاق نسخ أكثر تقدمًا.
- بناء معايير موحدة للتفسير الآلي بين الشركات والمختبرات العاملة في مجال الذكاء الاصطناعي.
- تعزيز إجراءات الأمان للتعامل مع أنظمة ذكاء اصطناعي فائقة القوة مستقبلاً.
تؤكد تحذيرات أمودي أن تفسير آليات الذكاء الاصطناعي ليس رفاهية تقنية، بل ضرورة وجودية لضمان تطور آمن ومسؤول لهذه التكنولوجيا المتسارعة.
