Meta تطلق CWM: نموذج برمجي يفهم التنفيذ قبل التشغيل
Meta أطلقت نموذجاً بحثياً باسم Code World Model (CWM) بوزن مفتوح، قادر على محاكاة تنفيذ البرامج داخليًا قبل تشغيلها الفعلي، لتعزيز قدرات التوليد البرمجي.
تفاصيل الخبر
Meta وفرت CWM كنموذج ضخم بوزن مفتوح مُصمَّم لتمكين الأبحاث في التوليد البرمجي مع نمذجة العالم (world model).
يشمل النموذج عددًا من الابتكارات والتدريبات التي تميِّزه عن نماذج التوليد التقليدية:
- النموذج يضم 32 مليار معلمة (32-B) ويُقدَّم بوزن مفتوح للباحثين.
- تم تدريبه جزئيًا (“mid-train”) على مسارات ملاحظة وإجراءات من تنفيذ بيثون (Python execution traces) وبيئات معزولة (Docker) لالتقاط التغييرات في الحالة الداخلية.
- يُمكِّن النموذج من محاكاة التنفيذ خطوة بخطوة، وفهم كيف تتغير المتغيرات أو الحالة الداخلية عند تشغيل الشيفرة، دون الحاجة للتنفيذ الفعلي.
- تم استخدام أسلوب تدريب متعدد المراحل (pretrain → midtrain → fine-tuning → Reinforcement Learning) على مهام برمجية، رياضيات، وتحديات هندسية برمجية متعددة المستويات.
- يمتلك قدرة على التعامل مع سياقات طويلة تصل إلى 131,000 رمز (token) في المرة الواحدة، باستخدام آليات انتباه محلية وعالمية متداخلة.
- الأداء على الاختبارات:
• SWE-bench Verified: نسبة نجاح (pass@1) تبلغ 65.8٪ عند التوسعة الزمنية للاختبار.
• LiveCodeBench v5: 68.6٪
• Math-500: 96.6٪
• AIME 2024: 76.0٪
الأهداف المستقبلية
من خلال إطلاق CWM، تضع Meta الأساس لرؤية تتجاوز التوليد الإحصائي نحو التوليد المعقول والمبني على الفهم الداخلي للتنفيذ. الأهداف المستقبلية تشمل:
- تشجيع الأبحاث على استخدام النمذجة التنفيذية لفهم سلوك الشيفرة داخل النماذج البرمجية.
- فتح إمكانيات “الترميز الفاعل” (agentic coding) حيث يتخذ النموذج قرارات وتعديلات برمجية استنادًا إلى الفهم الداخلي.
- توسيع النموذج ليشمل لغات برمجة إضافية وسياقات تنفيذية متنوعة أكثر من بيثون/دوكر.
- دعم المجتمع البحثي بنماذج مفتوحة وسجلات مرحلية (checkpoints) لتمكين التجارب والمقارنات.
إطلاق CWM يمثل خطوة مهمة في تطور نماذج الذكاء الاصطناعي للبرمجة، من مجرد توليد شيفرة إلى قدرات على محاكاة التنفيذ وفهم التغيرات التي تحدث داخل النظام عند التشغيل. النموذج المفتوح يعزز البحث والتجربة في هذا الاتجاه الجديد.
