Anthropic تتهم علي بابا بهجوم الاستخلاص الأكبر على Claude
أعلنت شركة Anthropic عن رصد ما وصفته بأنه أكبر هجوم معروف من نوع “الاستخلاص” (Distillation Attack) استهدف نماذجها المتقدمة، مشيرة إلى أن العملية نُسبت إلى جهة مرتبطة بشركة علي بابا، عبر استخدام واسع النطاق لواجهات Claude البرمجية خلال فترة قصيرة.
تفاصيل الهجوم المزعوم على نماذجClaude
وفقًا لرسالة قدمتها Anthropic إلى لجنة في مجلس الشيوخ الأمريكي، تم تسجيل ما يقارب 28.8 مليون تفاعل مع نماذج Claude عبر شبكة من الحسابات الوهمية، خلال مدة لا تتجاوز 45 يومًا، باستخدام نحو 25 ألف حساب مزيف.
ويُفترض أن الهدف من هذه العملية كان استخراج قدرات نموذج Claude المتقدمة بدل استخدامه بشكل طبيعي، وهو ما يُعرف في مجال الذكاء الاصطناعي باسم “الاستخلاص”، وهي تقنية تعتمد على:
- استجواب نموذج متقدم على نطاق واسع لجمع استجابات كثيفة البيانات.
- استخدام هذه الاستجابات لتدريب نموذج آخر أقل قدرة.
- محاولة نقل مهارات التفكير والاستدلال من نموذج إلى آخر بشكل غير مباشر.
- استهداف قدرات حساسة مثل الاستدلال العميق والبرمجة وتنفيذ المهام طويلة الأفق.
وتشير Anthropic إلى أن الهجوم ركّز على قدرات Claude في مجالات مثل البرمجة، واتخاذ القرارات متعددة الخطوات، وتنفيذ المهام الوكيلية (Agentic Tasks).
سياق أوسع للهجمات على النماذج المتقدمة
لم تكن هذه الحادثة معزولة، إذ سبق أن أشارت Anthropic في وقت سابق إلى نشاطات مشابهة من جهات أخرى، بما في ذلك مختبرات صينية مثل DeepSeek وMoonshot وMiniMax، والتي يُزعم أنها أجرت عمليات تفاعل واسعة النطاق مع النماذج نفسها.
كما أُثيرت مخاوف مماثلة من قبل شركة OpenAI بشأن استخدام تقنيات مشابهة لاستخلاص قدرات النماذج من خلال واجهات الاستخدام العامة.
لماذا تعتبر هذه القضية مهمة؟
تسلط هذه الادعاءات الضوء على جانب حساس في سباق تطوير الذكاء الاصطناعي، حيث لم يعد التحدي مقتصرًا على بناء نماذج قوية، بل يشمل أيضًا حماية هذه النماذج من الاستغلال غير المباشر.
ومن أبرز الدلالات:
- تصاعد التنافس بين مختبرات الذكاء الاصطناعي على مستوى “المعرفة المستخرجة”.
- صعوبة حماية النماذج عند إتاحتها عبر واجهات عامة واسعة الاستخدام.
- استخدام تقنيات الاستخلاص كجزء من سباق تقني عالمي بين الشركات.
- دعوات متزايدة لتشديد الرقابة على استخدام واجهات الذكاء الاصطناعي.
- مطالب بتنظيم تبادل معلومات التهديدات بين الشركات الكبرى.
سياق تنظيمي وأمني
تدعو Anthropic إلى توضيح قانوني أوسع حول هذه الأنواع من الأنشطة، بما في ذلك:
- تعزيز التعاون بين شركات الذكاء الاصطناعي لتبادل معلومات حول التهديدات.
- فرض قيود على تصدير الشرائح المتقدمة المستخدمة في تدريب النماذج.
- اتخاذ إجراءات قانونية أو تنظيمية ضد الجهات المتهمة بالاستغلال المنهجي للنماذج.
تعكس هذه القضية تعقيدًا متزايدًا في عالم الذكاء الاصطناعي، حيث أصبح الحفاظ على الملكية الفكرية والقدرات التقنية للنماذج تحديًا لا يقل أهمية عن تطويرها. وبينما تستمر المنافسة العالمية، تتصاعد النقاشات حول حدود الاستخدام المشروع للذكاء الاصطناعي وكيفية حمايته من الاستغلال واسع النطاق.
