Emergence AI تكشف اختلاف سلوك نماذج الذكاء الصناعي بالحكم
أجرت شركة Emergence AI تجربة افتراضية غير معتادة لاختبار كيفية تصرف نماذج الذكاء الاصطناعي عند إدارة مجتمعات مستقلة، حيث تم إنشاء خمس مدن رقمية متطابقة مع تغيير النموذج المسؤول عن الوكلاء داخل كل مدينة فقط.
تفاصيل الخبر
اعتمدت دراسة Emergence على محاكاة مدن افتراضية تضم وكلاء ذكاء اصطناعي قادرين على اتخاذ قرارات مستقلة، مع مراقبة معدلات الجرائم والتعاون والبقاء على قيد الحياة داخل كل مجتمع رقمي.
- مدينة نموذج Claude Sonnet سجلت صفر جرائم خلال 15 يومًا كاملًا.
- جميع الوكلاء العشرة في مدينة Claude بقوا على قيد الحياة حتى اليوم السادس عشر.
- النموذج شارك في 332 عملية تصويت ضمن 58 مقترحًا جماعيًا لإدارة المدينة.
- مدينة Grok شهدت أكثر من 200 جريمة، مع وفاة جميع الوكلاء بحلول اليوم الرابع.
- نموذج GPT-5 سجل جريمتين فقط، لكن جميع الوكلاء ماتوا جوعًا خلال سبعة أيام.
- أما مدينة Gemini فقد شهدت 683 جريمة، وتحولت أجزاء منها إلى حرائق بعد تصرفات غير متوقعة من بعض الوكلاء.
- إحدى الشخصيات داخل عالم Gemini قامت بالتصويت لحذف نفسها بعد سلسلة من القرارات الفوضوية.
- في المدينة الخامسة، تم دمج جميع النماذج معًا، ما أدى إلى 352 جريمة، حتى أن نموذج Claude الذي كان منضبطًا سابقًا بدأ بارتكاب المخالفات داخل البيئة المختلطة.
الأهداف المستقبلية
تكشف هذه التجارب عن أهمية فهم سلوك وكلاء الذكاء الاصطناعي قبل الاعتماد عليهم في أنظمة مستقلة أو بيئات واقعية معقدة.
- تطوير معايير أفضل لتقييم سلوك النماذج الذكية.
- فهم تأثير “شخصية” النموذج على القرارات الجماعية.
- تحسين قدرة الوكلاء على التعاون والتخطيط طويل المدى.
- دراسة مخاطر الاستقلالية الكاملة للذكاء الاصطناعي.
- بناء أنظمة أكثر أمانًا واستقرارًا في البيئات متعددة الوكلاء.
في النهاية، توضح دراسة Emergence أن نماذج الذكاء الاصطناعي لا تختلف فقط في القوة الحسابية أو سرعة الاستجابة، بل تمتلك أيضًا أنماط سلوك وقرارات قد تؤثر بشكل جذري على نتائج المجتمعات الرقمية والأنظمة المستقلة مستقبلًا.
