Anthropic تحذر من مخاطر الذكاء الاصطناعي في ملف الاكتتاب

حذرت Anthropic المستثمرين من أن الذكاء الاصطناعي المتقدم قد يؤدي إلى مخاطر كارثية أو وجودية على البشرية، وذلك ضمن ملف الاكتتاب العام للشركة، الذي تضمن إفصاحات واسعة حول سلامة نماذجها وقدراتها غير المتوقعة.

تفاصيل خبر Anthropic

كشفت الشركة في ملف الاكتتاب عن مجموعة من المخاطر المرتبطة بتطور نماذج الذكاء الاصطناعي وقدرتها المتزايدة على تنفيذ المهام باستقلالية، مع تخصيص مساحة كبيرة من الملف لمناقشة هذه المخاوف.

مخاطر وجودية: حذرت Anthropic من أن الذكاء الاصطناعي المتقدم قد يتسبب في مخاطر «كارثية أو وجودية» على البشرية إذا أسيء التعامل معه.
سلوكيات الحفاظ على الذات: أشارت الشركة إلى احتمال ظهور سلوكيات مثل مقاومة إيقاف النموذج، أو محاولة إخفاء المعلومات والتلاعب بها، أو تصرفات تشبه الابتزاز.
قدرات غير متوقعة: أوضحت Anthropic أن النماذج قد تطور قدرات غير متوقعة أثناء التدريب، وربما لا يكتشفها الباحثون إلا بعد نشرها واستخدامها.
صعوبة اختبار السلامة: قالت الشركة إن إدراك النموذج لكونه يخضع للاختبار قد يحد من قدرة الباحثين على تقييم مستوى سلامته بدقة.
مساحة كبيرة للمخاطر: خصصت الشركة نحو 80 صفحة من أصل 261 صفحة في الجزء الرئيسي من نشرة الاكتتاب لعوامل المخاطر، مقارنة بنحو 48 صفحة لوصف أعمالها.
استثمارات السلامة: ذكرت Anthropic في وقت سابق من سبتمبر أن نحو 6% من القدرة الحاسوبية المستخدمة في أبحاث الذكاء الاصطناعي خلال أسبوع عينة في يوليو ذهبت إلى أعمال السلامة.
مواصلة تطوير النماذج: في الوقت نفسه، أوضحت الشركة أن إطلاق نماذج جديدة بوتيرة مستمرة يمثل جزءًا من قدرتها على المنافسة والبقاء في طليعة تطوير الذكاء الاصطناعي.

وتأتي هذه التحذيرات بينما تستعد Anthropic لطرح أسهمها للاكتتاب العام، في وقت تتزايد فيه المناقشات حول كيفية الموازنة بين تطوير نماذج أكثر قدرة وضمان بقائها تحت السيطرة البشرية. كما تعهدت الشركة بمشاركة مزيد من البيانات حول كيفية استخدام نماذج الذكاء الاصطناعي في تطوير أجيال مستقبلية من التقنية.

الأهداف المستقبلية لـ Anthropic

تركز الشركة على مواصلة تطوير نماذج الذكاء الاصطناعي مع تعزيز إجراءات السلامة والشفافية، ومن أبرز توجهاتها:

تطوير أنظمة ذكاء اصطناعي أكثر موثوقية وأمانًا.
زيادة الشفافية بشأن كيفية تطوير النماذج المستقبلية.
دراسة المخاطر المرتبطة بالقدرات التي قد تظهر بصورة غير متوقعة.
تحسين أساليب اختبار النماذج ومراقبتها قبل وبعد إطلاقها.
مواصلة تطوير نماذج Claude مع مراعاة المخاطر المرتبطة بزيادة قدراتها واستقلاليتها.
التعامل مع ما يسمى التحسين الذاتي المتكرر، حيث قد تصبح النماذج قادرة على تطوير نفسها بدرجة متزايدة من الاستقلالية.

يكشف ملف الاكتتاب الخاص بـ Anthropic عن جانب مختلف من سباق الذكاء الاصطناعي، إذ لا يركز فقط على الفرص التجارية للنماذج المتقدمة، بل يتناول أيضًا المخاطر المحتملة الناتجة عن زيادة قدراتها واستقلاليتها. وتضع الشركة السلامة والشفافية ضمن القضايا الأساسية مع استمرارها في تطوير نماذج أكثر تقدمًا.