تحذيرات جديدة من الذكاء الاصطناعي ذاتي التحسين وانفجار الذكاء
تتزايد تحذيرات قادة الذكاء الاصطناعي من مرحلة قد تتمكن فيها النماذج من تطوير نسخ أفضل من نفسها بسرعة كبيرة «انفجار الذكاء»، ما قد يسرّع تطور التقنية بصورة غير مسبوقة.
تفاصيل الخبر
حذّر عدد من أبرز الأسماء في مجال الذكاء الصناعي من سيناريو يُعرف باسم «انفجار الذكاء»، حيث تستطيع أنظمة الذكاء الاصطناعي تحسين قدراتها وبناء أجيال أكثر تطورًا من نفسها خلال فترات زمنية قصيرة.
وشارك في تأليف الورقة كل من Jack Clark من Anthropic وJakub Pachocki من OpenAI، إلى جانب رواد المجال Geoffrey Hinton وYoshua Bengio وغيرهم. وتدعو الورقة إلى الاستعداد المبكر لاحتمال حدوث تسارع كبير في تطور قدرات الذكاء الاصطناعي.
ومن أبرز ما ورد في التقرير حول «انفجار الذكاء»:
- تشير بيانات تتبع داخل Anthropic إلى أن الذكاء الصناعي ينفذ حاليًا نحو 26% من أعمال البحث والتطوير في المختبر بشكل مستقل، مقارنة بنحو 1% فقط في مارس.
- توضح نماذج الورقة أن أتمتة تطوير الذكاء الصناعي يمكن أن تؤدي إلى تسارع كبير في وتيرة التقدم التقني.
- يتضمن أحد السيناريوهات أن ما يعادل عامًا من التقدم الحالي في الذكاء الاصطناعي قد يحدث خلال نحو خمسة أسابيع بعد الوصول إلى مستويات متقدمة من الأتمتة.
- تقترح الورقة وضع حدود على سرعة ارتفاع قدرات أنظمة الذكاء الاصطناعي.
- كما تدعو إلى إمكانية إيقاف مهام محددة داخل مراكز البيانات عند الحاجة.
- وتشير إلى أهمية وجود مدققين مستقلين يعملون داخل مختبرات الذكاء الاصطناعي لمتابعة المخاطر والتطورات.
وتحذر الورقة من أن السيناريوهات القصوى قد تؤدي إلى نتائج شديدة الخطورة، بما في ذلك تهميش البشر أو حتى انقراض البشرية.
الأهداف المستقبلية
تركز المقترحات المطروحة على تطوير آليات تساعد على مواكبة سرعة تطور النماذج، بدل انتظار ظهور مخاطر «انفجار الذكاء». وتشمل أبرز الأهداف المستقبلية:
- تطوير أنظمة رقابة قادرة على متابعة تطور قدرات النماذج بشكل مستمر.
- وضع آليات تسمح بإبطاء أو إيقاف بعض عمليات الذكاء الصناعي عند اكتشاف مخاطر كبيرة.
- تعزيز عمليات التدقيق المستقل داخل مختبرات تطوير الذكاء الاصطناعي.
- دراسة تأثير قدرة النماذج على أتمتة المزيد من أعمال البحث والتطوير.
- تحسين التعاون بين شركات الذكاء الاصطناعي والباحثين المتخصصين في السلامة.
- الاستعداد للسيناريوهات التي قد تشهد تسارعًا غير مسبوق في تطور قدرات النماذج.
وتأتي هذه الدعوات في وقت أصبحت فيه شركات الذكاء الصناعي تعتمد بصورة متزايدة على النماذج نفسها للمساعدة في البرمجة والبحث والاختبار، ما يجعل مسألة الذكاء الاصطناعي ذاتي التحسين أكثر ارتباطًا بمستقبل تطوير التقنية.
تسلط الورقة الضوء على احتمال انتقال الذكاء الاصطناعي من مجرد أداة تساعد الباحثين إلى أنظمة تشارك بصورة متزايدة في تطوير الجيل التالي من النماذج. ومع تسارع الأبحاث، يركز الباحثون على بناء وسائل رقابة وأمان تواكب هذا التطور قبل الوصول إلى مراحل يصعب التحكم فيها.
