Anthropic تكشف مساحة تفكير داخلية في Claude تشبه العقل البشري
أعلنت Anthropic عن نتائج بحث جديدة تكشف وجود مساحة داخلية غير مرئية داخل نموذج Claude تُستخدم لتنظيم الأفكار ومعالجة المهام المعقدة. ويُعد هذا الاكتشاف خطوة مهمة لفهم كيفية تفكير نماذج الذكاء الاصطناعي وتطويرها مستقبلاً.
تفاصيل الخبر
نشرت شركة Anthropic دراسة بحثية جديدة كشفت فيها عن وجود مساحة داخلية أطلقت عليها اسم J-Space في نموذج Claude، وهي منطقة تعمل بمثابة “دفتر ملاحظات” داخلي يحتفظ بالمفاهيم النشطة التي يستخدمها نموذج Claude أثناء التفكير وحل المشكلات. وأوضحت الشركة أن هذه الآلية لم تُبرمج بشكل مباشر من قبل الباحثين، بل ظهرت تلقائياً أثناء عملية تدريب النموذج.
ومن أبرز ما كشفته الدراسة:
- تعمل J-Space كمساحة داخلية لتنظيم الأفكار وربط المعلومات أثناء الاستدلال.
- تختلف هذه المساحة عن نصوص Chain of Thought التي قد تظهر للمستخدم، إذ تبقى الإشارات الداخلية مخفية بالكامل.
- أظهرت التجارب أن تعديل الأنماط الداخلية يغيّر إجابات النموذج؛ فعند استبدال مفهوم “العنكبوت” بمفهوم “النملة” أثناء سؤال يتعلق بعدد الأرجل، تغيّرت الإجابة من 8 إلى 6.
- عند إزالة J-Space استمر Claude في إجراء المحادثات واسترجاع المعلومات العامة، لكنه فقد قدرته على تنفيذ المهام متعددة الخطوات بكفاءة.
- يرى الباحثون أن هذه النتائج تشير إلى أن عمليات التفكير المعقدة تعتمد بشكل كبير على هذه المساحة الداخلية.
- أكدت Anthropic أن هذا الاكتشاف لا يعني امتلاك Claude للوعي أو المشاعر، وإنما يساعد الباحثين على فهم الآليات الداخلية التي يستخدمها النموذج أثناء الاستدلال.
ويأتي هذا البحث في وقت تتزايد فيه النقاشات حول طبيعة عمل نماذج الذكاء الاصطناعي المتقدمة، خصوصاً بعد الانتقادات التي وُجهت إلى Anthropic بشأن حديثها السابق عن إمكانية دراسة مؤشرات مرتبطة بالوعي الاصطناعي. ومع ذلك، شدد الباحثون على أن نتائج الدراسة لا تقدم دليلاً على وجود وعي داخل النموذج، وإنما تكشف بنية داخلية ناشئة تشبه من حيث الوظيفة بعض النظريات المستخدمة في علم الأعصاب لفهم الإدراك البشري.
الأهداف المستقبلية
تسعى Anthropic من خلال هذا النوع من الأبحاث إلى تحسين فهم البنية الداخلية لنماذج الذكاء الاصطناعي، بما يساهم في تطوير أنظمة أكثر أماناً وشفافية. وتشمل أهداف الشركة المستقبلية:
- تطوير أدوات تساعد الباحثين على تفسير كيفية وصول النماذج إلى قراراتها.
- تحسين موثوقية نماذج الذكاء الاصطناعي عند تنفيذ المهام المعقدة.
- اكتشاف الآليات الداخلية التي تظهر تلقائياً أثناء تدريب النماذج الضخمة.
- تعزيز أبحاث سلامة الذكاء الاصطناعي وتقليل السلوكيات غير المتوقعة.
- بناء نماذج أكثر قابلية للتفسير دون التأثير على أدائها.
- مواصلة دراسة العلاقة بين آليات التفكير الداخلية والنظريات المستوحاة من علم الأعصاب، مع التأكيد على أن ذلك لا يثبت امتلاك النماذج لأي شكل من أشكال الوعي.
يكشف هذا البحث عن خطوة جديدة في فهم آلية عمل نماذج الذكاء الاصطناعي من الداخل، وقد يسهم في تطوير أنظمة أكثر شفافية وأماناً. ومع استمرار الأبحاث، يبقى الهدف الأساسي هو تفسير طريقة التفكير داخل النماذج دون القفز إلى استنتاجات تتعلق بالوعي أو الإدراك.
