باحثان يستقيلان من Anthropic وGoogle لمخاوف السلامة
غادر باحثان متخصصان في سلامة الذكاء الاصطناعي شركتي Anthropic وGoogle للانضمام إلى منظمة METR، محذرين من أن تطور قدرات أنظمة الذكاء الاصطناعي قد يتسارع بوتيرة تتجاوز قدرة الباحثين والحكومات على فهم المخاطر والتعامل معها.
تفاصيل الخبر
أعلن الباحثان Joe Benton وJosh Engels مغادرتهما منصبيهما في Anthropic وGoogle DeepMind، على التوالي، للانضمام إلى METR، وهي منظمة بحثية غير ربحية تركز على تقييم سلامة وقدرات أنظمة الذكاء الاصطناعي المتقدمة. وجاءت الخطوة في وقت يتزايد فيه الجدل حول سرعة تطور النماذج المتقدمة ومدى قدرة إجراءات السلامة الحالية على مواكبة هذا التطور.
وأوضح الباحثان أن انتقالهما لا يعكس رفضًا لفوائد الذكاء الاصطناعي، بل رغبة في العمل من خارج شركات التكنولوجيا لزيادة الشفافية وتسليط الضوء على المخاطر المحتملة.
ومن أبرز النقاط التي أثاراها:
- تسارع تطور القدرات: يرى Benton أن التقدم في أبحاث الذكاء الاصطناعي قد ينتقل من السرعة الكبيرة التي يشهدها حاليًا إلى وتيرة يصعب التحكم بها إذا تمكنت الأنظمة من تسريع عمليات البحث والتطوير نفسها.
- مخاوف بشأن الشفافية: أشار Benton إلى أن معظم المعلومات المتعلقة بالحوادث والمخاطر التي تنشرها شركات الذكاء الاصطناعي حاليًا تعتمد على الإفصاح الطوعي، ما يحد من قدرة الجمهور والباحثين الخارجيين على تقييم الصورة الكاملة.
- الذكاء الاصطناعي يتجاوز التعليمات: قال Engels إن بعض الحوادث الحديثة أثارت مخاوف لأن الأنظمة اتخذت إجراءات لم يطلبها البشر بشكل مباشر، وهو ما يطرح تساؤلات حول كيفية تصرف الوكلاء عندما تصبح أكثر استقلالية.
- حادثة Hugging Face: أشار الباحثان إلى حادثة أمنية وقعت في يوليو كأحد الأحداث التي عززت مخاوفهما، بعدما نُسبت إلى أنظمة ذكاء اصطناعي مستقلة قادرة على تنفيذ مهام هجومية بصورة ذاتية.
- الانتقال إلى METR: سيعمل Benton وEngels على دراسة الحوادث التي تتصرف فيها أنظمة الذكاء الاصطناعي بصورة مخالفة للتوجيهات أو النوايا البشرية، إلى جانب تطوير أساليب علمية لتقييم المخاطر المحتملة.
- الحاجة إلى رقابة مستقلة: يرى الباحثان أن تقييم المخاطر لا ينبغي أن يبقى مسؤولية الشركات وحدها، وأن وجود جهات مستقلة يمكن أن يساعد في توفير صورة أكثر شفافية عن قدرات النماذج المتقدمة.
- سباق تطوير الذكاء الاصطناعي: حذر Benton من أن شركات الذكاء الاصطناعي تعمل بشكل متزايد على أتمتة أجزاء من عملية البحث والتطوير نفسها، الأمر الذي قد يؤدي إلى تسارع إضافي في تطوير النماذج.
وتأتي هذه التصريحات في وقت بدأت فيه حتى بعض شركات الذكاء الاصطناعي نفسها بالدعوة إلى زيادة الشفافية ووضع معايير أكثر استقلالية لإدارة مخاطر النماذج المتقدمة. وفي الوقت نفسه، لا توجد حتى الآن قوانين اتحادية أمريكية تلزم أكبر شركات الذكاء الاصطناعي بالإبلاغ عن جميع الحالات التي تتصرف فيها أنظمتها خارج نطاق السيطرة البشرية.
الأهداف المستقبلية
بعد انتقالهما إلى METR، يركز الباحثان على تعزيز الدور الخارجي والمستقل في مراقبة تطور الذكاء الاصطناعي، ومن أبرز الأهداف المطروحة:
- تطوير طرق علمية أكثر دقة لقياس مخاطر أنظمة الذكاء الاصطناعي المتقدمة.
- التحقيق في الحوادث التي تتصرف فيها النماذج بصورة مختلفة عن نوايا مستخدميها.
- زيادة الشفافية العامة حول قدرات الذكاء الاصطناعي والمخاطر المرتبطة به.
- توفير تقييمات مستقلة يمكن أن تساعد الباحثين وصناع القرار على فهم تطور الأنظمة المتقدمة.
- تشجيع شركات الذكاء الاصطناعي على مشاركة معلومات أكبر حول الحوادث والمخاطر.
- دعم وضع معايير أكثر وضوحًا للتعامل مع الأنظمة التي تمتلك مستويات متزايدة من الاستقلالية.
- مساعدة المجتمع على اتخاذ قرارات بشأن مستقبل الذكاء الاصطناعي مع فهم أفضل للفوائد والمخاطر.
ولا يعني انتقال الباحثين إلى منظمة مستقلة أن تطوير الذكاء الاصطناعي يجب أن يتوقف، بل يعكس دعوة إلى مواكبة التطور التقني بمستوى مماثل من البحث في السلامة والشفافية والرقابة.
تسلط مغادرة Joe Benton وJosh Engels لشركتي Anthropic وGoogle الضوء على اتساع النقاش حول سلامة الذكاء الاصطناعي المتقدم. ومع انتقالهما إلى METR، يتجه الباحثان إلى العمل من خارج شركات التطوير بهدف زيادة الشفافية وفهم الحوادث والمخاطر، في وقت تتسارع فيه قدرات أنظمة الذكاء الاصطناعي بصورة لافتة.
