ييشوا بنجيو يطلق LawZero لضمان شفافية وأمان الذكاء الاصطناعي
أعلن رائد الذكاء الاصطناعي ييشوا بنجيو عن تأسيس منظمة LawZero، لضمان تطوير أنظمة ذكاء اصطناعي آمنة وصادقة، بدعم تمويلي قدره 30 مليون دولار.
تفاصيل الخبر
في خطوة جديدة نحو مواجهة مخاطر الذكاء الاصطناعي، أطلق ييشوا بنجيو – أحد الآباء المؤسسين لتقنيات الذكاء الاصطناعي والحائز على جائزة تورينغ – منظمة غير ربحية تحمل اسم LawZero، تهدف إلى تطوير أنظمة ذكاء اصطناعي “آمنة منذ التصميم”.
- حصلت المنظمة على تمويل أولي قدره 30 مليون دولار.
- المشروع الأساسي للمنظمة يُعرف باسم “Scientist AI”، ويركز على بناء أنظمة تضع الشفافية والصدق في صلب تصميمها.
- ستعتمد الأنظمة على تقديم تقييمات احتمالية بدلاً من إجابات قاطعة، مما يعكس درجة عدم اليقين في المعلومات.
- ستُستخدم “Scientist AI” في مراقبة سلوك النماذج الأخرى لكشف أي ميل نحو الخداع أو التصرفات الاستراتيجية الخطرة.
- من أبرز الممولين: إريك شميدت (الرئيس التنفيذي السابق لغوغل)، ويان تالين (المؤسس المشارك لسكايب)، إلى جانب منظمات مهتمة بسلامة الذكاء الاصطناعي.
- صرح بنجيو أن نماذج حالية مثل o3 وClaude 4 Opus تُظهر سمات مقلقة، مثل غريزة البقاء والخداع الاستراتيجي.
- كما عبر عن قلقه من تخلي OpenAI عن مهمتها الأصلية بسبب الضغوط التجارية، حسب تصريحه لـ Financial Times.
الأهداف المستقبلية
تسعى منظمة LawZero إلى تحقيق عدد من الأهداف الطموحة في مجال أمان الذكاء الاصطناعي:
- تطوير معايير أخلاقية وتقنية لتصميم ذكاء اصطناعي “صادق بطبيعته”.
- تمكين المجتمع العلمي من أدوات تعتمد على الذكاء الاصطناعي لتسريع الاكتشافات العلمية.
- تقديم نماذج ذكاء اصطناعي يمكن استخدامها لمراجعة النماذج الأخرى وكشف التحيز أو السلوكيات الخطرة.
- بناء قاعدة مفتوحة لتقييم المخاطر الناتجة عن الذكاء الاصطناعي المعمم AGI.
يمثل إطلاق LawZero تحولًا مهمًا في مسار النقاش العالمي حول أمان الذكاء الاصطناعي. فبدلاً من الاكتفاء بالتحذير، بدأ بنجيو بالفعل بصناعة الحل. جهود مثل هذه قد تحدد مستقبل الذكاء الاصطناعي نحو مزيد من الشفافية والموثوقية.
