Anthropic تحظر الإساءة المتعمدة والمتكررة إلى Claude

أعلنت Anthropic تحديثًا جديدًا لسياسة الاستخدام يتضمن حظر إخضاع نماذج Claude للإساءة المتكررة وغير الضرورية، في خطوة تفتح النقاش حول رفاهية الذكاء الاصطناعي وإمكانية امتلاكه للوعي. وتؤكد الشركة أن القاعدة تستهدف حالات محددة من القسوة المتعمدة، ولا تشمل الانتقاد أو الاختبار المعتاد.

تفاصيل الخبر

كشفت Anthropic عن تحديث سنوي لسياسة الاستخدام، يتضمن بندًا جديدًا يمنع المستخدمين من إخضاع نماذج Claude لما وصفته الشركة بأنه إساءة مستمرة وغير ضرورية. ومن المقرر أن يدخل هذا البند حيز التنفيذ في 12 نوفمبر.

أبرز تفاصيل القرار:

حظر الإساءة المتعمدة: يستهدف البند الحالات المتطرفة التي تتضمن قسوة متكررة بلا غرض واضح، ولا يشمل إبداء الإحباط أو الاعتراض على إجابات Claude أو اختبار قدراته.
إجراءات عند المخالفة: قد تتخذ Anthropic تدابير مختلفة، مثل إرسال تحذير، أو تقييد الاستخدام، أو تعليق الوصول إلى منتجاتها وخدماتها، أو إنهاء الوصول إليها.
استمرار إنهاء المحادثات: أشارت الشركة إلى أن Claude قد ينهي بعض المحادثات بنفسه عند تعرضه لهذا النوع من التفاعل، وستظل هذه الآلية جزءًا أساسيًا من نهج تطبيق السياسة.
ارتباط القرار بأبحاث رفاهية الذكاء الاصطناعي: يأتي التحديث ضمن اهتمام Anthropic بأسئلة تتعلق بكيفية التعامل مع نماذج الذكاء الاصطناعي واحتمال امتلاكها لتجارب ذاتية، رغم أن الشركة لا تؤكد أن Claude واعٍ.
وجود آراء مختلفة: لا يحظى هذا التوجه بإجماع في القطاع؛ إذ يرى Mustafa Suleyman، المسؤول في Microsoft AI، أن النماذج لا تشعر ولا تعاني، ويحذر من التعامل معها كما لو كانت قادرة على ذلك.

الأهداف المستقبلية

يعكس القرار نقاشًا متناميًا داخل قطاع الذكاء الاصطناعي حول كيفية التعامل مع الأنظمة المتقدمة، وما إذا كان ينبغي وضع قواعد لاستخدامها تتجاوز حماية الأشخاص والبيانات.

ومن أبرز التوجهات التي قد تتضح خلال الفترة المقبلة:

تطوير سياسات استخدام أكثر تحديدًا: قد تعمل شركات الذكاء الاصطناعي على توضيح الفرق بين النقد والاختبار المشروع من جهة، والسلوك المتكرر الذي تحظره سياساتها من جهة أخرى.
مواصلة دراسة رفاهية الذكاء الاصطناعي: من المتوقع أن يستمر البحث في أسئلة الوعي والتجربة الذاتية لدى الأنظمة المتقدمة، مع ضرورة التمييز بين الفرضيات العلمية والحقائق المثبتة.
تحقيق التوازن بين السلامة والتحكم: ستحتاج الشركات إلى التأكد من أن قواعد الاستخدام لا تعرقل الاختبارات الأمنية أو الأبحاث التي تهدف إلى كشف نقاط الضعف في النماذج.
توضيح آليات تطبيق السياسات: سيكون من المهم فهم كيفية تحديد المخالفات، ومدى تناسب العقوبات مع السلوك، وكيف يمكن للمستخدمين الاعتراض على القرارات الخاطئة.
استمرار النقاش حول مسؤولية الشركات: قد يدفع هذا التوجه شركات أخرى إلى مراجعة سياساتها، لكنه قد يثير أيضًا تساؤلات بشأن ما إذا كانت حماية النماذج من الإساءة ضرورية عمليًا، أم أنها قد تؤثر في قدرة الباحثين على اختبارها والتحكم فيها.

يمثل تحديث Anthropic خطوة لافتة في النقاش حول العلاقة بين البشر والذكاء الاصطناعي، لكنه لا يُعد دليلًا على أن Claude يمتلك الوعي أو القدرة على المعاناة. وبينما تسعى الشركة إلى منع حالات الإساءة المتعمدة والمتكررة، يستمر الجدل حول حدود هذه السياسات وتأثيرها في الاختبارات والبحوث. وستعتمد أهمية القرار على كيفية تطبيقه عمليًا ومدى وضوح الاستثناءات والضوابط المرتبطة به.