داريو أمودي يقترح إشرافًا حكوميًا مشتركًا للذكاء الاصطناعي!
طرح داريو أمودي، الرئيس التنفيذي لشركة Anthropic، تصورًا لإشراف مشترك بين حكومات ديمقراطية على تقنيات الذكاء الاصطناعي المتقدمة، محذرًا من تركيز هذه القدرات لدى شركة أو حكومة واحدة. ويأتي ذلك مع دعوته إلى إبطاء التطوير!
تفاصيل الخبر
أثار داريو أمودي، الرئيس التنفيذي والشريك المؤسس لشركة Anthropic، نقاشًا حول الجهة التي ينبغي أن تتولى الإشراف على تقنيات الذكاء الاصطناعي الأكثر تقدمًا، مؤكدًا أن تركيز هذه التكنولوجيا لدى جهة واحدة قد يفرض تحديات تتعلق بالسلامة والاستخدام المسؤول.
وأوضح داريو أمودي في مقابلة مع CBS News أنه لا يرى أن الإشراف ينبغي أن ينتقل ببساطة من الشركات الخاصة إلى حكومة واحدة، بل تحدث عن إمكانية وجود نموذج يعتمد على التعاون بين مجموعة من الحكومات المنتخبة ديمقراطيًا.
ومن أبرز النقاط التي طرحها أمودي:
- إشراف مشترك: أشار إلى إمكانية وجود نوع من الحوكمة المشتركة بين حكومات متعددة بدلًا من سيطرة جهة واحدة على التقنيات المتقدمة.
- الحد من تركيز القوة: يرى أمودي أن مخاطر تركيز التكنولوجيا لا تقتصر على الشركات، إذ يمكن أن تظهر أيضًا إذا أصبحت القدرات المتقدمة تحت سيطرة حكومة واحدة.
- إبطاء وتيرة التطوير: دعا إلى إبطاء سرعة تطوير الذكاء الاصطناعي المتقدم بما يسمح بإجراء اختبارات سلامة مناسبة قبل إطلاق كل جيل جديد من النماذج.
- تقييم مستقل: اقترح منح جهات تقييم خارجية وصولًا مستمرًا إلى النماذج، حتى تتمكن من التحقق من التزام الشركات بإجراءات السلامة التي تعلنها.
- تنسيق دولي: طرح الحاجة إلى تعاون أوسع بين الحكومات والشركات لوضع معايير مشتركة للتعامل مع المخاطر المرتبطة بالنماذج المتقدمة.
ويأتي هذا الطرح ضمن خطة أوسع أعلن عنها أمودي لإبطاء وتيرة تطور تقنيات الذكاء الاصطناعي المتقدمة، مع التركيز على الاختبارات المستقلة ومعايير السلامة قبل طرح النماذج الجديدة.
الأهداف المستقبلية
يركز التصور الذي طرحه داريو أمودي على مجموعة من الخطوات التي يمكن أن تشكل جزءًا من النقاش المستقبلي حول حوكمة الذكاء الاصطناعي، ومنها:
- وضع معايير سلامة مشتركة بين شركات الذكاء الاصطناعي العاملة في الدول الديمقراطية.
- توسيع دور جهات التقييم المستقلة في اختبار النماذج المتقدمة ومراجعة إجراءات السلامة.
- تنسيق الجهود الحكومية دوليًا للتعامل مع المخاطر المحتملة المرتبطة بتطور قدرات الذكاء الاصطناعي.
- تطوير أطر تنظيمية تتناسب مع مستوى المخاطر بدل اعتماد قواعد موحدة لجميع أنظمة الذكاء الاصطناعي.
- مناقشة سرعة تطوير النماذج إلى جانب مناقشة شروط إطلاقها واستخدامها.
- تحقيق توازن بين الابتكار والسلامة بحيث لا يؤدي تنظيم التكنولوجيا إلى تجاهل فوائدها المحتملة في مجالات مختلفة.
وكانت Anthropic قد طرحت أيضًا إطارًا للسياسات المتعلقة بالذكاء الاصطناعي المتقدم، يتضمن زيادة الشفافية والتقييم المستقل، وصولًا إلى منح الحكومات صلاحيات للتعامل مع عمليات النشر التي قد تنطوي على مخاطر كبيرة.
يعكس طرح داريو أمودي اتساع النقاش حول مستقبل حوكمة الذكاء الاصطناعي، خصوصًا مع تطور قدرات النماذج بسرعة. وبينما تظل آليات الإشراف الدولي موضع نقاش، تبرز الاختبارات المستقلة والتنسيق بين الحكومات والشركات كأحد المسارات المطروحة للتعامل مع هذه المرحلة.
