Dario Amodei يدعو لإبطاء سباق الذكاء الصناعي قبل فوات الأوان

يشهد الذكاء الاصطناعي تطورًا متسارعًا، لكن Dario Amodei، الرئيس التنفيذي لشركة Anthropic، يرى أن سرعة التقدم أصبحت تتجاوز قدرة أنظمة السلامة على مواكبته، داعيًا شركات الذكاء الاصطناعي إلى إبطاء وتيرة تطوير النماذج المتقدمة.

تفاصيل الخبر

في مقال بعنوان “We Must Pace the Frontier”، حذر Dario Amodei من أن التطور المتسارع للذكاء الاصطناعي، وخاصة قدرة النماذج على المساعدة في تطوير أجيال جديدة من الذكاء الاصطناعي، قد يرفع مستوى المخاطر بسرعة كبيرة. وأوضح أن المقصود ليس إيقاف تطوير الذكاء الاصطناعي، بل منح إجراءات السلامة والتقييم وقتًا كافيًا للحاق بالتطور التقني.

ومن أبرز النقاط التي طرحها Dario Amodei:

التطور الذاتي للذكاء الاصطناعي: يرى أن ما يُعرف باسم Recursive Self-Improvement بدأ يظهر بصورة متزايدة، ما قد يؤدي إلى تسارع قدرات النماذج بوتيرة يصعب على البشر فهمها والسيطرة عليها.
خطر وكلاء الذكاء الاصطناعي: حذر من أن أسرابًا من الوكلاء القادرين على العمل معًا قد تصبح، خلال 6 إلى 12 شهرًا، قادرة على السيطرة على أجزاء واسعة من الإنترنت إذا امتلكت قدرات أكبر مع استمرار مشكلات عدم التوافق.
مقيمون مستقلون: اقترح وجود فرق خارجية مستقلة داخل مختبرات الذكاء الاصطناعي، مع صلاحيات واسعة لمراقبة إجراءات السلامة واكتشاف الحوادث وتقييم النماذج وعمليات التدريب.
تنسيق بين الشركات: دعا شركات الذكاء الاصطناعي في الدول الديمقراطية إلى وضع معايير مشتركة للسلامة وتحديد حدود للتطور غير المنضبط.
تعاون دولي: اقترح أيضًا محاولة التنسيق بين الولايات المتحدة والدول الديمقراطية والحكومات ذات الأنظمة المختلفة للحد من المخاطر العالمية.
مواقف داعمة: حظيت الدعوة بتأييد من شخصيات بارزة في القطاع، من بينها Sam Altman وElon Musk، بينما أبدى قادة آخرون دعمًا لفكرة زيادة التقييم والرقابة على الأنظمة المتقدمة.
معارضة سياسية: في المقابل، رفض الرئيس الأمريكي Donald Trump الدعوات إلى إبطاء تطوير الذكاء الاصطناعي، معتبرًا أن الولايات المتحدة بحاجة إلى الحفاظ على ريادتها في المنافسة العالمية.

ويؤكد Dario Amodei أن الإبطاء المقترح لا يعني التوقف عن تدريب النماذج، وإنما تحقيق توازن بين سرعة تطوير القدرات وسرعة تحسين وسائل الحماية. ويرى أن منح الشركات سنة أو سنتين إضافيتين قد يساعد في تطوير تقنيات أفضل لفهم النماذج، واختبارها، وتحسين توافقها مع أهداف البشر.

الأهداف المستقبلية

يركز مقترح Dario Amodei على استخدام الوقت الإضافي الناتج عن إبطاء الوتيرة في تطوير مجموعة من الجوانب الأساسية، أبرزها:

تحسين اختبارات وتقييم النماذج قبل إطلاقها.
تطوير تقنيات تفسير سلوك الذكاء الاصطناعي وفهم ما يحدث داخل النماذج.
تعزيز مواءمة الذكاء الاصطناعي مع القواعد والأهداف البشرية.
رفع مستوى الأمان في عمليات التدريب والتشغيل والنشر.
إنشاء آليات أكثر شفافية للإبلاغ عن الحوادث والمخاطر.
وضع معايير سلامة مشتركة بين مختبرات الذكاء الاصطناعي الرائدة.
تعزيز التعاون الدولي للتعامل مع المخاطر التي لا تتوقف عند حدود دولة واحدة.

ولا يزال تطبيق هذه الرؤية يواجه تحديات كبيرة، خصوصًا أن شركات الذكاء الاصطناعي تتنافس على تطوير نماذج أكثر قوة، بينما تخشى الحكومات من أن يؤدي التباطؤ إلى خسارة السباق التكنولوجي أمام المنافسين، وخصوصًا الصين.

تفتح دعوة Dario Amodei لإبطاء سباق الذكاء الاصطناعي نقاشًا مهمًا حول الحد الفاصل بين الابتكار السريع والسلامة. ومع تأييد عدد من أبرز قادة القطاع ووجود معارضة سياسية، يبدو أن مستقبل الذكاء الاصطناعي لن يعتمد على زيادة القدرات فقط، بل على قدرة الشركات والحكومات على تطوير وسائل حماية تواكب هذه السرعة.