100 خبير يطالبون بمراقبين داخل مختبرات الذكاء الاصطناعي
تزايدت الدعوات إلى تعزيز الرقابة المستقلة على أنظمة الذكاء الاصطناعي، بعدما وقّع Geoffrey Hinton وأكثر من 100 خبير رسالة تطالب بإدخال جهات تقييم مستقلة إلى مختبرات الذكاء الاصطناعي مع صلاحيات واسعة.
تفاصيل الخبر
وقّع أكثر من 100 خبير وباحث في مجال الذكاء الاصطناعي، من بينهم Geoffrey Hinton، رسالة عامة تدعو شركات الذكاء الاصطناعي الرائدة إلى السماح لمقيّمين مستقلين بالعمل من داخل مختبرات الذكاء الاصطناعي الخاصة بها، بهدف تقييم المخاطر والقدرات المتزايدة للأنظمة المتقدمة بصورة أكثر استقلالية وشفافية.
وتقترح الرسالة مجموعة من الشروط التي يرى الموقعون أنها ضرورية لضمان أن تكون عمليات التقييم موثوقة وفعالة، ومن أبرزها:
- الاستقلالية: يجب أن تكون جهات التقييم مستقلة عن شركات الذكاء الاصطناعي، مع امتلاكها السيطرة الكاملة على منهجياتها ونتائجها.
- تعدد الخبرات: تدعو الرسالة إلى وجود أكثر من جهة تقييم تغطي مجالات مختلفة من المخاطر، مع السماح بظهور وجهات نظر ونتائج مختلفة.
- الشفافية: ينبغي الكشف عن منهجيات التقييم ونتائجها وطبيعة الصلاحيات الممنوحة للمقيّمين، مع إمكانية التواصل المباشر مع مجالس إدارة الشركات والجهات الرقابية الداخلية.
- الحماية من الانتقام: يجب حماية المقيّمين من الإجراءات الانتقامية بسبب اكتشافهم معلومات حساسة أو الوصول إلى نتائج لا تتوافق مع مصالح الشركة.
- صلاحيات واسعة: تطالب الرسالة بمنح المقيّمين إمكانية الوصول إلى الأنظمة والبيانات والأدوات والمساحات ذات الصلة، بما يماثل مستوى الوصول المتاح للموظفين الداخليين المسؤولين عن تقييم المخاطر.
- الإفصاح عن النتائج: تشجع المبادرة على نشر النتائج والأدلة، مع السماح بحجب معلومات محددة لفترة محدودة لحماية الخصوصية والأمن والملكية الفكرية وسلامة المستخدمين.
ومن بين الموقعين أسماء بارزة مثل Geoffrey Hinton وStuart Russell وArvind Narayanan وYejin Choi، إلى جانب باحثين ومسؤولين تنفيذيين ومتخصصين في تقييم سلامة الذكاء الاصطناعي في مختبرات الذكاء الاصطناعي.
وتوضح الرسالة أن التقييمات المدمجة داخل مختبرات الذكاء الاصطناعي لا يُفترض أن تحل محل جميع أشكال الرقابة الخارجية، بل أن تكون جزءًا من منظومة أوسع تشمل مزيدًا من الشفافية وإتاحة الوصول للباحثين المستقلين.
الأهداف المستقبلية
تركز مبادرة المراقبين في مختبرات الذكاء الاصطناعي على تحويل عمليات تقييم أنظمة الذكاء الاصطناعي المتقدمة إلى ممارسة أكثر استقلالية وقابلية للتحقق، خصوصًا مع تطور قدرات هذه الأنظمة وازدياد المخاطر المرتبطة بها.
ومن أبرز الأهداف المستقبلية التي تطرحها الرسالة:
- وضع معايير موحدة لعمل جهات التقييم المستقلة داخل مختبرات الذكاء الاصطناعي.
- تعزيز الوصول المباشر إلى البيانات والأنظمة اللازمة لإجراء الاختبارات.
- تطوير آليات تحمي المقيّمين من الضغوط أو الإجراءات الانتقامية.
- تشجيع الشركات على نشر نتائج اختبارات السلامة والأدلة المرتبطة بها.
- توسيع الرقابة الخارجية لتشمل باحثين ومؤسسات مستقلة متعددة.
- تطوير معايير مثل AEF-1 لتحديد الشروط اللازمة لعمليات التقييم المدمجة.
- تقييم المخاطر التقنية والاجتماعية والحوادث الواقعية المرتبطة بأنظمة الذكاء الاصطناعي.
وتشير الرسالة إلى أن هذه الشروط ليست قائمة نهائية، وأن هناك حاجة إلى مزيد من العمل حتى تصبح عمليات التقييم المستقلة أكثر توحيدًا وفعالية.
تعكس الرسالة تصاعد الاهتمام بضرورة وجود رقابة مستقلة على أنظمة الذكاء الاصطناعي المتقدمة. ومع استمرار تطور قدراتها، يركز المقترح على منح المقيّمين صلاحيات حقيقية واستقلالية وحماية كافية، بما يسمح باكتشاف المخاطر وتوثيقها بصورة أكثر شفافية.
