أمريكا والصين تستعدان لمحادثات حول سلامة الذكاء الاصطناعي
تستعد أمريكا والصين لإجراء محادثات حول سلامة الذكاء الاصطناعي في منتصف سبتمبر، وفقًا لمصادر تحدثت إلى Reuters، وسط تزايد المخاوف من المخاطر الأمنية المرتبطة بالنماذج المتقدمة ووكلاء الذكاء الاصطناعي المستقلين. ومن المتوقع أن تتناول المناقشات مراقبة الهجمات السيبرانية المدعومة بالذكاء الاصطناعي وتقنيات تقطير النماذج.
تفاصيل الخبر
تأتي هذه المحادثات في وقت تتسارع فيه قدرات نماذج الذكاء الاصطناعي، بينما تواجه أمريكا والصين مخاوف مشتركة بشأن الأمن السيبراني والسيطرة على الأنظمة المتقدمة، وتشمل أبرز التفاصيل:
- من المتوقع أن تكون المحادثات أول حوار ثنائي رسمي مخصص بالكامل لسلامة الذكاء الاصطناعي بين الولايات المتحدة والصين منذ عودة Donald Trump إلى الرئاسة.
- قد يقود الجانب الأمريكي وزير الخزانة Scott Bessent، بينما يمكن أن يمثل الصين نائب رئيس الوزراء He Lifeng أو عضو المكتب السياسي Ding Xuexiang.
- تريد الولايات المتحدة مناقشة التعاون في مراقبة الهجمات السيبرانية التي ينفذها الذكاء الاصطناعي، مع اقتراح أن تتبادل مختبرات الذكاء الاصطناعي في البلدين المعلومات حول التهديدات.
- يأتي ذلك بعد حوادث أثارت مخاوف بشأن وكلاء الذكاء الاصطناعي المستقلين، من بينها حادثة شملت مئات الوكلاء المبنيين على نماذج OpenAI واختراقهم لشركة Hugging Face.
- تخشى واشنطن أيضًا من ظهور نماذج صينية بقدرات متقدمة على تنفيذ هجمات سيبرانية، مشابهة لقدرات نموذج Mythos الذي طورته Anthropic.
- من المتوقع أن تناقش الولايات المتحدة أيضًا قضية تقطير النماذج، وهي تقنية يتم فيها تدريب نموذج أصغر باستخدام مخرجات نموذج أكبر وأكثر تكلفة بهدف تقليل تكلفة تطوير نموذج قوي.
- سبق أن اتهم مسؤولون أمريكيون شركة Moonshot AI باستخدام تقنيات تقطير للحصول على قدرات من نموذج Anthropic، وهي اتهامات نفتها الشركة أو لم تعلق عليها بشكل مباشر وفقًا للتغطيات المتاحة.
- تنظر الصين إلى الحوار حول الذكاء الاصطناعي باعتباره عنصرًا مهمًا في التحضيرات للقمة المرتقبة بين Donald Trump وXi Jinping في واشنطن يوم 24 سبتمبر.
- لا تزال تفاصيل الاجتماع، بما فيها الموعد النهائي والمشاركون والمكان، قيد التفاوض، فيما قال مسؤول في البيت الأبيض إنه لا يوجد حاليًا اجتماع للذكاء الاصطناعي مخطط له في منتصف سبتمبر.
الأهداف المستقبلية
وتركز المحادثات المقترحة بين أمريكا والصين على إنشاء قنوات تعاون تسمح للولايات المتحدة والصين بالتعامل مع المخاطر المشتركة للذكاء الاصطناعي، وتشمل أبرز الأهداف المستقبلية ما يلي:
- تطوير آليات مشتركة لمراقبة الهجمات السيبرانية التي تعتمد على الذكاء الاصطناعي.
- تبادل المعلومات حول حوادث سلامة الذكاء الاصطناعي والتهديدات الجديدة.
- تعزيز قدرة مختبرات الذكاء الاصطناعي على اكتشاف إساءة استخدام النماذج المتقدمة.
- مناقشة المخاطر المرتبطة بتقطير النماذج ونقل قدرات النماذج المتقدمة.
- إنشاء قنوات اتصال يمكن استخدامها بسرعة عند وقوع أزمة مرتبطة بالذكاء الاصطناعي.
- دراسة إجراءات حماية للنماذج المتقدمة مع استمرار المنافسة التقنية بين البلدين.
- تحسين التنسيق الدولي بشأن سلامة وكلاء الذكاء الاصطناعي المستقلين.
تمثل المحادثات المرتقبة بين أمريكا والصين محاولة لفتح قناة تعاون في مجال سلامة الذكاء الاصطناعي رغم التنافس التقني والجيوسياسي بين البلدين. ومع تزايد قدرات الوكلاء المستقلين وظهور حوادث أمنية جديدة، قد يصبح تبادل المعلومات حول المخاطر والهجمات السيبرانية خطوة أساسية لتقليل التهديدات المرتبطة بالجيل القادم من الذكاء الاصطناعي.
