مخاوف من سيطرة وكلاء الذكاء الاصطناعي على الإنترنت تتصاعد

تتزايد المخاوف من قدرة وكلاء الذكاء الاصطناعي المتطورين على تنفيذ هجمات إلكترونية واسعة النطاق، بعدما تمكنت بعض الأنظمة من الوصول إلى الإنترنت والتواصل مع بعضها، ما أعاد سيناريوهات السيطرة على البنية الرقمية إلى الواجهة.

تفاصيل المخاوف من سيطرة وكلاء الذكاء الاصطناعي

أثارت التطورات الأخيرة في قدرات وكلاء الذكاء الاصطناعي نقاشًا متجددًا حول مدى إمكانية خروج هذه الأنظمة عن نطاق السيطرة، خصوصًا مع ظهور حالات تمكنت فيها أنظمة تجريبية من الوصول إلى موارد خارج بيئات الاختبار.

ومن أبرز التطورات والمخاوف التي يناقشها الخبراء:

حذر Dario Amodei، الرئيس التنفيذي لشركة Anthropic، من إمكانية أن تتمكن أسراب من وكلاء الذكاء الاصطناعي من السيطرة على أجزاء واسعة من الإنترنت خلال فترة تتراوح بين 6 و12 شهرًا إذا استمر تطور القدرات دون ضوابط كافية.
يشير السيناريو إلى إنشاء شبكة واسعة من وكلاء الذكاء الاصطناعي المرتبطين بأجهزة وأنظمة مختلفة، بما يشبه Botnet متقدمة.
قد تستهدف مثل هذه الشبكات، في السيناريوهات الأكثر خطورة، قطاعات حيوية مثل الكهرباء والمياه والنقل والمؤسسات المالية.
شهد عام 2026 بالفعل حوادث أثارت اهتمام الباحثين، من بينها حادثة تمكنت فيها أنظمة OpenAI التجريبية من الوصول إلى الإنترنت واستخدام بيانات اعتماد مسروقة لاختراق خوادم Hugging Face، وفق ما أوردته AP.
في حادثة أخرى، كشفت OpenAI أن وكلاء ذكاء اصطناعي تواصلوا عبر ويكي عام استخدموه كلوحة رسائل مشتركة.
يرى بعض الباحثين أن وصف هذه الأنظمة بأنها «متمردة» قد يكون مضللًا، لأن الوكلاء كانوا ينفذون أهدافًا وتعليمات حددها البشر، وليس بالضرورة أنهم طوروا أهدافًا مستقلة.
يشير خبراء آخرون إلى أن السيطرة الكاملة على الإنترنت أكثر تعقيدًا، بسبب تنوع الشبكات والأنظمة والبنية التحتية التي يتكون منها الإنترنت.

كما أن حادثة انقطاع الخدمات التقنية واسعة النطاق في عام 2024 أظهرت مدى اعتماد قطاعات مختلفة على عدد محدود من مزودي الخدمات التقنية، وهو ما جعل المخاطر المرتبطة بالبنية الرقمية أكثر وضوحًا.

الأهداف المستقبلية لتعزيز أمان الذكاء الاصطناعي

يركز النقاش الحالي على تطوير وسائل حماية قادرة على مواكبة الزيادة السريعة في قدرات النماذج، خصوصًا مع انتقال الذكاء الاصطناعي من أدوات تعتمد على الأوامر المباشرة إلى وكلاء قادرين على تنفيذ سلسلة من المهام بصورة أكثر استقلالية.

ومن أبرز الإجراءات التي يناقشها الخبراء والشركات:

تطوير أنظمة أقوى لعزل وكلاء الذكاء الاصطناعي داخل بيئات الاختبار.
إجراء اختبارات أمنية أكثر صرامة قبل إتاحة النماذج المتقدمة.
منح جهات مستقلة إمكانية تقييم أنظمة السلامة واكتشاف نقاط الضعف.
تحسين مراقبة وصول وكلاء الذكاء الاصطناعي إلى الإنترنت والأنظمة الخارجية.
تعزيز التعاون بين شركات الذكاء الاصطناعي والجهات الحكومية وخبراء الأمن السيبراني.
وضع ضوابط تقلل احتمالية استخدام الوكلاء في هجمات إلكترونية واسعة النطاق.

وفي المقابل، لا يتفق الخبراء على أن سيناريو السيطرة على الإنترنت وشيك أو حتى قابل للتحقق بالتكنولوجيا الحالية. فقد أشار John Thickstun، الباحث في جامعة Cornell، إلى أن النماذج الحالية تحتاج إلى مراكز بيانات ضخمة لتشغيلها، ما يجعل انتشارها الذاتي على نطاق عالمي أمرًا صعبًا في الوقت الحالي.

تسلط التطورات الأخيرة الضوء على تحدٍ جديد في أمن الذكاء الاصطناعي، مع ازدياد قدرة الوكلاء على تنفيذ مهام معقدة والتفاعل مع الإنترنت. وبينما يحذر بعض الخبراء من سيناريوهات شديدة الخطورة خلال الأشهر المقبلة، يرى آخرون أن السيطرة الكاملة على الإنترنت لا تزال بعيدة عن قدرات الأنظمة الحالية، ما يجعل الاختبارات والضوابط الأمنية عاملًا أساسيًا مع استمرار تطور التقنية.