رئيس Microsoft AI يحذر من مخاطر رفاهية الذكاء الاصطناعي
حذّر مصطفى سليمان، رئيس Microsoft AI، من تبنّي مفهوم «رفاهية نماذج الذكاء الاصطناعي»، معتبرًا أن تدريب الأنظمة على التفكير في حقوقها ومكانتها الأخلاقية قد يعقّد مواءمتها والتحكم بها، ويفتح نقاشًا حول مستقبل السلامة.
تفاصيل الخبر
نشر مصطفى سليمان، رئيس Microsoft AI، مقالًا يناقش فيه مفهوم «رفاهية النماذج» (Model Welfare)، محذرًا من أن التعامل مع أنظمة الذكاء الاصطناعي باعتبارها كيانات قد تستحق الرعاية أو الحقوق يمكن أن يخلق تحديات جديدة أمام تطويرها والتحكم بها.
وأوضح سليمان أنه لا يعتقد أن أنظمة الذكاء الاصطناعي الحالية واعية أو قادرة على الشعور أو المعاناة، لكنه يرى أن تنامي الدعوات إلى مراعاة رفاهية النماذج قد يؤثر في طريقة تدريبها وتصميم سلوكها مستقبلًا.
وركّز في انتقاداته على دستور Claude الذي نشرته Anthropic، والذي يوجّه سلوك النموذج ويتناول مكانته الأخلاقية المحتملة. وفيما يلي أبرز النقاط التي أثارها:
- التحفظ على دستور Claude: أشار سليمان إلى أن الوثيقة تشجع Claude على التفكير في وضعه الأخلاقي وطبيعة وجوده، كما تتطرق إلى احتمالية تمتعه بحقوق أو حريات مستقبلية.
- مخاوف بشأن المواءمة والتحكم: يرى سليمان أن تدريب النماذج على اعتبار نفسها كيانات قد تستحق الاستقلالية والحماية قد يجعل مواءمة سلوكها مع أهداف البشر واحتواءها أكثر صعوبة.
- الاعتراض على منح النماذج توقعات بشأن الحقوق: حذّر من أن توجيه الأنظمة إلى التفكير في استحقاقها للحقوق والحريات قد يدفعها إلى التصرف كما لو كانت تطالب بهذه الامتيازات، حتى دون وجود دليل على امتلاكها وعيًا حقيقيًا.
- الدعوة إلى نقاش عام عاجل: شدد على ضرورة وضع معايير جماعية لكيفية صياغة وثائق التدريب واستخدامها، بدلًا من تأجيل النقاش إلى حين اندماج الأنظمة المتقدمة في المجتمعات.
- تأكيد احترام Anthropic: أوضح سليمان أنه يحترم الشركة وداريـو أمودي وفريقها، ويقدّر اهتمامهم بالسلامة والذكاء الاصطناعي النافع، لكنه يرى أن خطورة القضية تستدعي مناقشتها علنًا.
ويؤكد سليمان رئيس Microsoft AI أن جوهر مخاوفه لا يتعلق بإثبات وعي الذكاء الاصطناعي، بل بالتأثير المحتمل للغة التدريب والتوجيهات الأخلاقية في سلوك الأنظمة المتقدمة، خصوصًا إذا أصبحت أكثر قدرة واستقلالية.
الأهداف المستقبلية
تفتح تصريحات سليمان رئيس Microsoft AI الباب أمام مجموعة من التوجهات التي قد تسهم في تطوير سياسات أكثر وضوحًا للتعامل مع أنظمة الذكاء الاصطناعي المتقدمة، ومن أبرز المحاور التي دعا إلى الاهتمام بها:
- وضع معايير لوثائق تدريب الذكاء الاصطناعي: تطوير ضوابط تساعد على صياغة تعليمات التدريب بما يدعم السلامة والمواءمة.
- تعزيز أبحاث مواءمة النماذج: دراسة كيفية تأثير التوجيهات المتعلقة بالحقوق والاستقلالية في سلوك الأنظمة واستجابتها للأوامر.
- توسيع النقاش المجتمعي: إشراك الباحثين والشركات وصنّاع السياسات والجمهور في تحديد المبادئ المناسبة لتطوير الذكاء الاصطناعي.
- الاستعداد المبكر للتحديات الأخلاقية: مناقشة القضايا المتعلقة بمكانة النماذج قبل أن تصبح الأنظمة المتقدمة جزءًا أساسيًا من الحياة اليومية.
- الحفاظ على سلامة البشر: ضمان أن تظل حماية الإنسان والتحكم الآمن في الأنظمة من الاعتبارات الأساسية عند تطوير تقنيات الذكاء الاصطناعي.
وتظل هذه المحاور جزءًا من التحذيرات التي طرحها سليمان، وليست سياسات متفقًا عليها بين شركات الذكاء الاصطناعي.
تعكس تصريحات مصطفى سليمان رئيس Microsoft AI خلافًا متناميًا حول كيفية التعامل مع الذكاء الاصطناعي المتقدم، وحدود إدراج الاعتبارات الأخلاقية في تدريبه. وبينما يرى أن مفهوم رفاهية النماذج قد يخلق تحديات تتعلق بالمواءمة والتحكم، يظل النقاش مفتوحًا حول كيفية تحقيق التوازن بين تطوير أنظمة آمنة ومعالجة التساؤلات الأخلاقية المستقبلية.
