DeepMind تقترح هيئة أمريكية لمراقبة سلامة الذكاء الاصطناعي
طرح الرئيس التنفيذي لشركة DeepMind، ديميس هاسابيس، خطة لإنشاء هيئة أمريكية مستقلة لمراقبة أنظمة الذكاء الاصطناعي المتقدمة، بهدف اختبار سلامتها قبل إطلاقها للعامة ووضع إطار تنظيمي واضح لهذا القطاع سريع التطور.
تفاصيل مقترح DeepMind
قدم ديميس هاسابيس، الرئيس التنفيذي لشركة Google DeepMind، مقترحًا لإنشاء جهة تنظيمية متخصصة تشرف على نماذج الذكاء الاصطناعي المتقدمة قبل طرحها للمستخدمين، وذلك في محاولة لمعالجة المخاطر المحتملة المرتبطة بتطور هذه التقنيات.
ويهدف المقترح إلى إنشاء هيئة تشبه في عملها نموذج FINRA في القطاع المالي، وهي جهة تنظيمية ذاتية تراقب المؤسسات المالية، بحيث تتولى الهيئة الجديدة تقييم قدرات نماذج الذكاء الاصطناعي قبل إطلاقها.
ومن أبرز تفاصيل الخطة:
- إنشاء هيئة مستقلة تختبر نماذج الذكاء الاصطناعي المتقدمة قبل طرحها للعامة.
- فحص النماذج بحثًا عن قدرات خطيرة مثل الخداع، وتصميم الأسلحة البيولوجية، ومهارات الاختراق الضار.
- اعتماد مستوى قدرات النموذج كمعيار أساسي للرقابة بدلًا من مكان تطويره أو طريقة الوصول إليه.
- مطالبة مختبرات الذكاء الاصطناعي الرائدة بتقديم نماذجها للمراجعة قبل 30 يومًا من الإطلاق.
- السماح للهيئة بالتكيف مع التطورات التقنية المتسارعة ووضع إجراءات جديدة عند ظهور مخاطر غير متوقعة.
- إمكانية تنسيق إجراءات تباطؤ مؤقت بين مختبرات الذكاء الاصطناعي المتقدمة إذا ظهرت حاجة لذلك.
وأشار هاسابيس إلى ضرورة إنشاء هذه الهيئة خلال العام الحالي، محذرًا من أن قدرات الذكاء الاصطناعي مفتوحة المصدر قد تصل إلى مستويات خطيرة خلال فترة قصيرة قد لا تتجاوز 18 شهرًا.
ويأتي هذا الاقتراح في ظل تزايد النقاش العالمي حول كيفية تنظيم الذكاء الاصطناعي، خاصة مع ظهور تحديات مرتبطة بسلامة النماذج المتقدمة، وتأثيرها المحتمل على الأمن السيبراني والمجالات الحساسة.
كما يعكس المقترح توجهًا متزايدًا داخل قطاع التكنولوجيا نحو إنشاء آليات رقابية استباقية بدل انتظار وقوع المشكلات ثم محاولة معالجتها، إلا أن فكرة استقلالية الهيئة تثير تساؤلات حول كيفية ضمان عدم تأثرها بالشركات التي تطور هذه النماذج.
الأهداف المستقبلية لتنظيم الذكاء الاصطناعي المتقدم
يسعى مقترح DeepMind إلى تحقيق مجموعة من الأهداف المستقبلية، أبرزها:
- وضع معايير موحدة لاختبار سلامة نماذج الذكاء الاصطناعي قبل إطلاقها.
- تقليل مخاطر إساءة استخدام التقنيات المتقدمة.
- تعزيز التعاون بين الحكومات وشركات التكنولوجيا والباحثين.
- إنشاء نظام رقابي مرن يتطور مع تطور قدرات الذكاء الاصطناعي.
- تحقيق توازن بين تسريع الابتكار وضمان الاستخدام المسؤول للتقنيات الذكية.
- حماية المجتمع من المخاطر المحتملة للنماذج القادرة على تنفيذ مهام معقدة بشكل مستقل.
ويرى مؤيدو فكرة DeepMind أن وجود جهة متخصصة قد يساعد على بناء ثقة أكبر في الذكاء الاصطناعي، بينما يرى آخرون أن استقلالية هذه الهيئة ستكون التحدي الأكبر، خصوصًا إذا كانت ممولة جزئيًا من الشركات التي تخضع للمراجعة.
يمثل مقترح ديميس هاسابيس خطوة جديدة في النقاش حول مستقبل تنظيم الذكاء الاصطناعي، حيث تسعى شركات التكنولوجيا والحكومات إلى إيجاد نموذج يضمن استمرار الابتكار مع تقليل المخاطر. ومع تطور قدرات النماذج الذكية، قد تصبح الرقابة المسبقة عنصرًا أساسيًا في إدارة الجيل القادم من تقنيات الذكاء الاصطناعي.
