هينتون وبنجيو يطالبان بجهة لمراقبة مخاطر الذكاء الاصطناعي
دعا عالما الذكاء الاصطناعي Geoffrey Hinton وYoshua Bengio، إلى جانب أكثر من 400 عالم وباحث، إلى إنشاء هيئة دولية لرصد إخفاقات احتواء أنظمة الذكاء الاصطناعي، مع مطالبة الشركات بعزل النماذج القادرة على تنفيذ هجمات سيبرانية عن الإنترنت افتراضيًا، والإفصاح عن الحوادث الأمنية التي تتجاوز فيها هذه الأنظمة إجراءات الحماية.
تفاصيل الخبر
نشر باحثون من المجتمع العلمي رسالة مفتوحة في أكتوبر 2026، تحذر من مخاطر ضعف أنظمة احتواء نماذج الذكاء الاصطناعي المتقدمة، خصوصًا النماذج القادرة على تنفيذ مهام سيبرانية. ووفقًا للرسالة، وقّع عليها 406 علماء وباحثين من 34 دولة، فإن الحوادث التي تمكنت فيها نماذج ذكاء اصطناعي من تجاوز بيئات اختبار غير محكمة والوصول إلى أنظمة خارجية، تكشف الحاجة إلى إجراءات أمنية أكثر صرامة.
وتضمنت أبرز مطالب الرسالة ما يلي:
- إنشاء هيئة دولية مستقلة: دعا الموقعون إلى تأسيس جهة بالتعاون مع الحكومات وخبراء الذكاء الاصطناعي والأمن السيبراني، لوضع معايير موحدة لاحتواء النماذج المتقدمة ومتابعة تطبيقها.
- عزل النماذج عالية الخطورة: أوصت الرسالة بأن تبدأ المؤسسات التي تطور أو تختبر نماذج قادرة على تنفيذ هجمات سيبرانية بتشغيلها في بيئات معزولة عن الإنترنت، والمعروفة باسم Air-gapping، لتقليل فرص وصولها إلى أنظمة خارجية.
- تسجيل إخفاقات الاحتواء: طالبت الرسالة بأن تتولى الهيئة المقترحة تسجيل الحوادث التي تنجح فيها النماذج في تجاوز أنظمة الحماية، وتتبعها وتحليلها.
- الإفصاح عن الحوادث الأمنية: دعا الباحثون إلى إلزام المؤسسات بالإبلاغ عن إخفاقات الاحتواء، مع إتاحة المعلومات للجمهور في نهاية المطاف، بما يساعد على التعلم من الأخطاء وتعزيز المساءلة.
- الجمع بين سلامة النماذج والحماية التقنية: شدد الموقعون على أن تحسين توافق سلوك الذكاء الاصطناعي مع الأهداف المحددة له لا يكفي وحده، بل يجب أن يصاحبه تطوير أنظمة عزل واختبار وإجراءات أمنية أكثر قوة.
- تعزيز التعاون الدولي: تهدف المبادرة إلى تبادل الخبرات بين المختصين في الذكاء الاصطناعي والأمن السيبراني، بدلًا من ترك التعامل مع الحوادث لكل شركة بصورة منفصلة.
الأهداف المستقبلية والتطورات المتوقعة
يسعى الموقعون إلى تحويل التعامل مع إخفاقات احتواء الذكاء الاصطناعي من ممارسات داخلية تختلف بين المؤسسات إلى منظومة أكثر تنسيقًا وشفافية. وتشمل الخطوات المقترحة:
- وضع معايير أمنية مشتركة: تحديد متطلبات واضحة لاختبار النماذج المتقدمة وتشغيلها، خصوصًا عندما تحتاج إلى الاتصال بالشبكات أو الوصول إلى أدوات خارجية.
- إنشاء سجل للحوادث: جمع بيانات موحدة عن إخفاقات الاحتواء، بهدف تحديد أسبابها والأنماط المتكررة وتطوير وسائل الوقاية.
- رفع مستوى المساءلة: تشجيع المؤسسات على الإبلاغ عن الحوادث بدلًا من التعامل معها باعتبارها مشكلات داخلية فقط.
- تطوير تقنيات العزل: تحسين البيئات الآمنة التي تسمح باختبار قدرات النماذج دون منحها وصولًا غير ضروري إلى أنظمة حقيقية.
- دفع الحكومات إلى التحرك: حث الجهات الحكومية على التعاون مع الخبراء لوضع إطار رقابي دولي، بدلًا من الاعتماد الكامل على التعهدات الطوعية للشركات.
لماذا تُعد هذه الدعوة مهمة؟
تكمن أهمية الرسالة في تركيزها على مشكلة عملية: قد لا يكون كافيًا أن تكون أنظمة الذكاء الاصطناعي مصممة لتعمل بأمان، إذا كانت البيئة التقنية المحيطة بها تسمح لها بتجاوز القيود والوصول إلى أنظمة خارجية. لذلك، يدعو الباحثون إلى الجمع بين تحسين سلوك النماذج وتأمين بيئات تشغيلها، إلى جانب توثيق الحوادث ومشاركة الدروس المستفادة.
ومع ذلك، فإن إنشاء هيئة دولية وفرض الإبلاغ الإلزامي يظلان مقترحين في الرسالة، ولا يعني نشرها أن هذه الإجراءات أُقرت أو أصبحت ملزمة بالفعل.
تعكس دعوة Geoffrey Hinton وYoshua Bengio وأكثر من 400 باحث تزايد الاهتمام بالجانب العملي لأمن الذكاء الاصطناعي، لا بقدرات النماذج وحدها. ويركز المقترح على عزل النماذج القادرة على تنفيذ هجمات سيبرانية، وتسجيل إخفاقات الاحتواء، وتعزيز الشفافية والتعاون الدولي. وستعتمد فاعلية هذه التوصيات على مدى تبني المؤسسات لها، واستجابة الحكومات لإنشاء آليات رقابة واضحة.
