جوجل تتيح Gemma 3 على أجهزة المستهلك: ذكاء اصطناعي فائق

جوجل تطلق نسخًا جديدة من نماذج Gemma 3 مدعومة بتقنية التدريب الواعي بالكمية (QAT)، لتعمل بكفاءة على بطاقات رسومية استهلاكية مثل RTX 3090 دون التضحية بالأداء.

تفاصيل تقنية مبتكرة لنشر الذكاء الاصطناعي على نطاق أوسع

بعد إطلاق نماذج Gemma 3 الشهر الماضي والتي حققت أداءً رائدًا باستخدام تنسيق BFloat16 على وحدات معالجة متقدمة مثل NVIDIA H100، أعلنت جوجل اليوم عن نقلة نوعية: نماذج Gemma 3 بتقنية Quantization-Aware Training (QAT) التي تقلل متطلبات الذاكرة بشكل كبير دون التأثير الكبير على الجودة، مما يجعلها قابلة للتشغيل على أجهزة مكتبية استهلاكية.

في السابق، كانت نماذج مثل Gemma 3 27B تتطلب أكثر من 50 جيجابايت من ذاكرة VRAM، ما يجعل تشغيلها حكرًا على مراكز البيانات أو المختبرات المتخصصة. أما الآن، فبفضل تقنية QAT والكمّية المنخفضة مثل int4، أصبح بالإمكان تشغيل النموذج ذاته باستخدام 14.1 جيجابايت فقط، ما يسمح له بالعمل على بطاقات مثل RTX 3090.

ما هو التدريب الواعي بالكمية؟ ولماذا هو مهم؟

عند تصغير حجم البيانات داخل نموذج الذكاء الاصطناعي (أي تقليل “الكمية”)، تقل دقة الأرقام التي يستخدمها في العمليات الحسابية، ما يؤدي غالبًا إلى فقدان بعض الأداء. ولكن باستخدام QAT، يتم تدريب النموذج من البداية مع الأخذ بعين الاعتبار البيئة منخفضة الدقة، مما يحافظ على الدقة العالية ويقلل من التدهور في النتائج.

أرقام توضح الفارق

Gemma 3 27B: من 54GB إلى 14.1GB
Gemma 3 12B: من 24GB إلى 6.6GB
Gemma 3 4B: من 8GB إلى 2.6GB
Gemma 3 1B: من 2GB إلى 0.5GB

هذه الأرقام تعني أن بإمكان مطوري البرمجيات والمبدعين استخدام أقوى نماذج الذكاء الاصطناعي مباشرة من أجهزتهم الشخصية، سواء على حواسيب سطح المكتب أو حتى الحواسيب المحمولة والهواتف الذكية.

تكامل سهل مع أدواتك المفضلة

نماذج جيما 3 QAT متوفرة الآن على Hugging Face وKaggle، ويمكن تشغيلها بسهولة باستخدام أدوات شهيرة مثل Ollama، LM Studio، MLX على أجهزة Apple، وأيضًا llama.cpp وgemma.cpp لمحبي السرعة والكفاءة.

بفضل هذه الخطوة، لم تعد نماذج الذكاء الاصطناعي القوية حكرًا على الشركات العملاقة أو مراكز البيانات. بإمكان المطورين والمبتكرين الآن استخدام نماذج متطورة مباشرة من أجهزتهم الشخصية، ما يفتح آفاقًا جديدة في البرمجة، الترجمة، تطوير الألعاب، تحليل البيانات، والمزيد.