Anthropic تحذر من اقتراب الذكاء الاصطناعي من نسخ نفسه
كشفت Anthropic عن نتائج بحثية جديدة تشير إلى أن نماذج الذكاء الاصطناعي الصغيرة تقترب من القدرة على نسخ نفسها والانتشار بين الأجهزة المتصلة بالإنترنت، مثل أجهزة التلفاز الذكية والأفران، ما يثير تساؤلات مهمة حول مستقبل الأمن السيبراني.
تفاصيل الخبر
نشرت Anthropic في 12 أكتوبر 2026 بحثًا جديدًا أجراه فريق Frontier Red Team، تناول إمكانية تمكّن نماذج الذكاء الاصطناعي الصغيرة من تكرار نفسها بصورة مستقلة عبر الأجهزة المتصلة بالإنترنت، دون الحاجة إلى الاعتماد على مراكز البيانات التقليدية.
وتهدف التجارب إلى فهم مدى قدرة هذه النماذج على العثور على الأجهزة المستهدفة، وتشغيل نسخ من نماذج الذكاء الاصطناعي عليها، ثم مواصلة الانتشار إلى أجهزة أخرى دون تدخل بشري.
وتضمنت أبرز نتائج البحث ما يلي:
- النماذج الصغيرة تقترب من الهدف: أظهرت التجارب أن النماذج التي تحتوي على 30 مليار مُعامل أو أقل تستطيع تنفيذ العديد من الخطوات اللازمة لعملية النسخ الذاتي، لكنها لا تزال تواجه صعوبات في إتمام العملية كاملة بصورة موثوقة.
- تجربة على أجهزة التلفاز: تمكن الباحثون من تشغيل نموذج Gemma4-26B-A4B موزعًا على 15 جهاز تلفاز يعمل بنظام Android منخفض التكلفة، لاختبار إمكانية الاستفادة من قدرات هذه الأجهزة في تشغيل نماذج الذكاء الاصطناعي.
- النجاح في بيئات اختبار مبسطة: استطاعت نماذج مثل GLM-5.2 ونماذج أقوى إكمال عملية النسخ من البداية إلى النهاية في اختبارات خُففت فيها بعض متطلبات الأمان.
- أجهزة منزلية قد تصبح أهدافًا: تشمل الأجهزة المحتملة أجهزة التلفاز الذكية والأفران والثلاجات والمكانس الكهربائية المتصلة بالإنترنت، خاصة إذا كانت تفتقر إلى الحماية الكافية.
- انتشار قد يصعب إيقافه: قد تصبح عملية احتواء هذه الأنظمة أكثر تعقيدًا إذا انتشرت بين أجهزة متعددة دون وجود نقطة مركزية واحدة يمكن تعطيلها لإيقافها جميعًا.
وشدد الباحثون على أن التجارب لا تعني أن النماذج الصغيرة أصبحت قادرة بالفعل على الانتشار الذاتي بصورة موثوقة في جميع الظروف الواقعية، بل تشير إلى أن بعض العقبات التقنية بدأت تتراجع.
الأهداف المستقبلية
يركز البحث على فهم المخاطر المحتملة للأنظمة التي تستطيع العمل والتكيف والانتشار دون إشراف بشري مباشر، إلى جانب تحديد الإجراءات التي يمكن أن تساعد على الحد من هذه المخاطر قبل أن تصبح أكثر واقعية.
ومن أبرز الأهداف والتوصيات المرتبطة بهذا المجال:
- تعزيز أمن الأجهزة الذكية: تحسين حماية الأجهزة المنزلية المتصلة بالإنترنت، وتحديث برامجها الثابتة وسد الثغرات الأمنية.
- تطوير أنظمة للكشف المبكر: تحسين القدرة على اكتشاف السلوك غير الطبيعي، مثل محاولات تشغيل برامج غير مصرح بها أو الاتصال بأجهزة أخرى بصورة مريبة.
- اختبار قدرات النماذج باستمرار: متابعة مدى تطور النماذج الصغيرة في تنفيذ المهام السيبرانية المعقدة، وتقييم المخاطر قبل إتاحة قدرات جديدة على نطاق واسع.
- الحد من الانتشار غير المصرح به: تطوير وسائل تساعد على منع تثبيت البرامج وتشغيل النماذج على الأجهزة دون إذن أصحابها.
- تعزيز التعاون في الأمن السيبراني: تشجيع شركات الذكاء الاصطناعي ومصنعي الأجهزة على تبادل المعلومات حول التهديدات وتطوير آليات دفاع أكثر فاعلية.
ويتوقع باحثو Anthropic أنه إذا استمر تطور النماذج الصغيرة بالمعدل التاريخي نفسه، فقد تصل إلى مستوى يسمح لها بإتمام عملية النسخ الذاتي بصورة مستقلة بحلول نهاية عام 2026. ويظل هذا توقعًا بحثيًا، وليس تأكيدًا على أن هذا السيناريو سيحدث حتمًا.
تسلط أبحاث Anthropic الضوء على جانب مهم من تطور الذكاء الاصطناعي، يتمثل في احتمال انتقال المخاطر السيبرانية من الخوادم التقليدية إلى الأجهزة اليومية المتصلة بالإنترنت. ومع استمرار تطور النماذج الصغيرة، ستزداد أهمية تأمين هذه الأجهزة ومراقبة سلوك الأنظمة الذكية، لضمان الاستفادة من قدراتها دون فتح المجال أمام انتشار برمجيات ضارة يصعب احتواؤها.
