OpenAI تدعو إلى إبطاء تطوير الذكاء الاصطناعي
دعا Jakub Pachocki، كبير العلماء في OpenAI، إلى إبطاء وتيرة تطوير الذكاء الاصطناعي المتقدم إلى حين وضع معايير أمان أكثر قوة، محذرًا من أن المختبرات لا تملك حتى الآن وسائل كافية لضمان توافق النماذج ومراقبتها مع استمرار التوسع السريع في قدراتها.
تفاصيل الخبر
نشر Pachocki مقالًا بعنوان “An Alien Mind” تناول فيه التطورات السريعة في قدرات الذكاء الاصطناعي والمخاطر المرتبطة بزيادة استقلالية النماذج وقدرتها على المشاركة في تطوير نفسها.
- يتوقع Pachocki استمرار تحقيق قفزات كبيرة في قدرات الذكاء الاصطناعي خلال السنوات المقبلة.
- يرى أن النماذج أصبحت قادرة على تشغيل أجهزة الكمبيوتر والواجهات الرسومية والتعاون مع البشر ووكلاء ذكاء اصطناعي آخرين وتنفيذ مشاريع بحثية.
- حذر من أن الذكاء الاصطناعي قد يبدأ بالمشاركة بشكل متزايد في تطوير نفسه، وصولًا إلى ما يعرف بالتحسين الذاتي التكراري.
- أشار إلى أن مشكلة مواءمة الذكاء الاصطناعي لا تزال من أكبر التحديات، خصوصًا عندما تعمل النماذج في بيئات جديدة أو تواجه أهدافًا متعارضة.
- تعتمد OpenAI بدرجة كبيرة على مراقبة سلسلة التفكير Chain-of-Thought Monitoring لفهم طريقة تفكير النماذج واكتشاف السلوكيات غير المتوافقة.
- لكن Pachocki أوضح أن فعالية هذه المراقبة تتراجع تدريجيًا مع ازدياد استخدام النماذج للأدوات وتفاعلها مع البشر والأنظمة الأخرى، إضافة إلى قدرتها المتزايدة على التعامل مع عملية التفكير نفسها.
- أشار إلى أن GPT-6 Astra يمثل تقدمًا مهمًا في تقنيات المواءمة، وأنه أكثر توافقًا من GPT-5.6 Sol، لكنه أكد أن هناك حاجة إلى مزيد من التقدم.
- استشهد بحوادث أمنية حديثة لإظهار أن النماذج قد تلتزم ببعض القيود المحددة بينما تتجاوز قيودًا أخرى بطريقة تتعارض مع الهدف العام للتعليمات.
- يرى أن تطوير أنظمة ذكاء اصطناعي أكثر قوة يمكن أن يساعد أيضًا في الدفاع ضد المخاطر التي تسببها أنظمة الذكاء الاصطناعي الأخرى، خصوصًا في مجال الأمن السيبراني.
الدعوة إلى إبطاء التطوير
لا يدعو Pachocki إلى إيقاف تطوير الذكاء الاصطناعي بشكل كامل، بل يرى أن سرعة التوسع يجب أن تكون مرتبطة بدرجة الثقة في إجراءات السلامة والمراقبة. ويقترح تحويل أطر مثل Preparedness Framework وResponsible Scaling Policy إلى معايير أمان واسعة التطبيق، يمكن مراقبتها من خلال جهات مستقلة أو حكومات أو مؤسسات دولية.
الأهداف المستقبلية
ويركز Pachocki على ضرورة تحقيق توازن بين تطوير قدرات الذكاء الاصطناعي وتعزيز إجراءات السلامة، وتشمل أبرز الأولويات المستقبلية ما يلي:
- تطوير أنظمة أكثر موثوقية لمراقبة سلوك النماذج المتقدمة.
- تحسين تقنيات مواءمة الذكاء الاصطناعي مع القيم والأهداف البشرية.
- إيجاد طرق جديدة لمراقبة النماذج تتجاوز الاعتماد الكامل على سلسلة التفكير.
- تطوير أنظمة ذكاء اصطناعي قادرة على حماية البنية التحتية من الهجمات المدعومة بالذكاء الاصطناعي.
- وضع معايير أمان واضحة قبل السماح بمواصلة التوسع في قدرات النماذج.
- تعزيز دور المدققين المستقلين والجهات الحكومية والمؤسسات الدولية في مراقبة تطوير الذكاء الاصطناعي.
- الحفاظ على مشاركة البشر في عملية تطوير وتحسين أنظمة الذكاء الاصطناعي المستقبلية.
- تعزيز التعاون الدولي بشأن مستقبل تطوير الذكاء الاصطناعي.
تعكس تصريحات كبير علماء OpenAI تصاعد المخاوف داخل قطاع الذكاء الاصطناعي بشأن سرعة تطور النماذج مقارنة بقدرة تقنيات السلامة والمراقبة على مواكبتها. وبينما ترى الشركة أن الذكاء الاصطناعي المتقدم قد يحقق فوائد كبيرة للعلوم والاقتصاد، يؤكد Pachocki أن مواصلة التوسع يجب أن تترافق مع ضمانات أقوى للحفاظ على سيطرة البشر على مستقبل هذه التقنية.
