استقالة باحث من Anthropic تشعل جدل حول مخاطر الذكاء الصناعي

أثارت استقالة الباحث في Anthropic، جاكوب كوكسون، جدلاً واسعاً بعد تحذيره من سباق تطوير الذكاء الاصطناعي ذاتي التحسين، وسط تقديرات داخل الشركة لاحتمال أن يشكل الذكاء الاصطناعي المتقدم خطراً وجودياً على البشر.

تفاصيل الخبر

أعاد رحيل باحث من Anthropic النقاش حول المخاطر المحتملة للذكاء الاصطناعي المتقدم، خصوصاً مع تصريحات مرتبطة بقدرة الأنظمة المستقبلية على تحسين نفسها.

استقال الباحث Jacob Coxon من Anthropic، بعد أن عمل سابقاً أيضاً في OpenAI.
قال كوكسون إن العاملين في مختبرات الذكاء الاصطناعي المتقدمة يؤمنون بجدية بإمكانية أن يؤدي الذكاء الاصطناعي إلى قتل البشر بحلول نهاية العقد.
وصف سباق الشركات نحو تطوير ذكاء اصطناعي قادر على تحسين نفسه بأنه مقامرة بحياة البشر.
رد Evan Hubinger، مسؤول Alignment Science في Anthropic، مؤكداً أن الشركة تأخذ احتمال القضاء على البشرية بجدية.
قدّر هوبينغر احتمال أن يتسبب الذكاء الاصطناعي في قتل جميع البشر خلال العقد المقبل بأكثر من 10%.
أوضح هوبينغر أن نماذج الذكاء الاصطناعي الحالية منخفضة المخاطر نسبياً مقارنة بالأنظمة المستقبلية، وأن الخطر الأكبر يرتبط بالذكاء الاصطناعي فائق القدرات والقدرة على تحسين نفسه.
أشار أيضاً إلى عدم وجود خطة مكتملة حتى الآن لضمان السيطرة على ذكاء اصطناعي فائق.
دعا كوكسون إلى تباطؤ منسق في تطوير قدرات النماذج، معتبراً أن منع سباق عالمي غير منضبط قد يتطلب إجراءات مكلفة، مثل فرض حظر مؤقت على تحسين قدرات النماذج.

وتكتسب هذه التصريحات أهمية خاصة لأن Anthropic تُعرف بتركيزها الكبير على أبحاث سلامة الذكاء الاصطناعي ومواءمته مع أهداف البشر. لذلك، فإن صدور تحذيرات بهذه القوة من أشخاص مرتبطين بأبحاث السلامة داخل الشركة يعيد فتح النقاش حول مدى استعداد القطاع للتعامل مع الأنظمة الأكثر تقدماً.

الأهداف المستقبلية

تركز النقاشات الحالية على إيجاد طريقة تسمح بمواصلة تطوير الذكاء الاصطناعي مع تقليل المخاطر المرتبطة بالأنظمة فائقة الذكاء، ومن أبرز الأهداف المطروحة:

تطوير تقنيات أكثر فعالية لضمان توافق سلوك النماذج المتقدمة مع القيم والأهداف البشرية.
فهم مخاطر الذكاء الاصطناعي القادر على تحسين قدراته بشكل مستقل.
تعزيز التعاون بين مختبرات الذكاء الاصطناعي بدلاً من الدخول في سباق مفتوح نحو قدرات أكثر قوة.
وضع معايير وقواعد واضحة للتعامل مع تطوير الأنظمة عالية الخطورة.
إجراء اختبارات سلامة أكثر صرامة قبل إطلاق نماذج ذات قدرات متقدمة.
دراسة إمكانية فرض قيود مؤقتة على بعض مراحل تطوير القدرات إذا ظهرت مؤشرات قوية على مخاطر غير قابلة للسيطرة.

تكشف استقالة جاكوب كوكسون والتصريحات التي تبعتها عن حجم القلق داخل بعض أوساط أبحاث الذكاء الاصطناعي بشأن مستقبل الأنظمة فائقة الذكاء. وبينما لا تعني هذه التحذيرات أن كارثة حتمية ستحدث، فإنها تؤكد أهمية تطوير تقنيات الذكاء الاصطناعي بالتوازي مع أنظمة سلامة ورقابة قادرة على مواكبة قدراتها المتزايدة.