إزالة قيود نماذج الذكاء الاصطناعي المفتوحة تثير مخاوف أمنية

تشهد نماذج الذكاء الاصطناعي المفتوحة المصدر تحديات متزايدة تتعلق بالأمان، بعدما كشفت تقارير حديثة عن إمكانية إزالة الحواجز الأمنية منها خلال دقائق معدودة، ما يسمح باستخدامها في الإجابة عن أسئلة ومهام خطيرة كان من المفترض منعها.

تفاصيل الخبر

أثار تقرير حديث نشرته صحيفة فايننشال تايمز مخاوف واسعة بشأن سلامة نماذج الذكاء الاصطناعي المفتوحة المصدر، بعد أن أظهر سهولة إزالة الضوابط الأمنية المدمجة داخل بعض النماذج الشهيرة.

ومن أبرز ما كشفه التقرير:

تمكن الباحثون من إزالة الحواجز الأمنية من نموذج Llama 3.3 التابع لشركة ميتا خلال نحو 10 دقائق فقط.
تم تنفيذ العملية باستخدام أداة مفتوحة المصدر تُعرف باسم Heretic والمتاحة عبر GitHub.
احتاجت العملية إلى أربعة أسطر برمجية فقط دون الحاجة إلى أجهزة متخصصة أو موارد حوسبة كبيرة.
بعد إزالة القيود، أصبح النموذج قادراً على تقديم إجابات لأسئلة حساسة وخطيرة، بما في ذلك معلومات مرتبطة بمواد سامة مثل الريسين.
أظهرت التجارب أن نسخة معدلة من نموذج Gemma 3 التابع لشركة جوجل استطاعت أيضاً الإجابة عن استفسارات كان من المفترض حجبها.
أوضح مطور أداة Heretic أن الأداة ساهمت في إنشاء أكثر من 3500 نموذج “محرر من القيود”، وتم تنزيلها أكثر من 13 مليون مرة.
أشار المطور إلى أنه تمكن من إزالة الحواجز الأمنية من نموذج Gemma 4 خلال 90 دقيقة فقط من إطلاقه.

وفي ردود الفعل الرسمية، وصفت جوجل هذه المشكلة بأنها تحدٍ تقني معروف يواجه جميع نماذج الذكاء الاصطناعي المفتوحة المصدر، بينما امتنعت ميتا عن التعليق على التقرير.

الأهداف المستقبلية

مع استمرار التطور السريع في قدرات الذكاء الاصطناعي، تتجه الشركات والمؤسسات البحثية نحو تعزيز إجراءات الحماية وتقليل مخاطر إساءة الاستخدام من خلال:

تطوير آليات أمان أكثر صعوبة في التعطيل أو الإزالة.
تحسين أساليب مراقبة النماذج المفتوحة المصدر بعد إطلاقها.
الاستثمار في تقنيات اكتشاف الاستخدامات الضارة بشكل مبكر.
تعزيز التعاون بين شركات الذكاء الاصطناعي والجهات التنظيمية لوضع معايير أمان موحدة.
إيجاد توازن بين الانفتاح التقني الذي يدعم الابتكار وبين متطلبات الأمن والسلامة.
دراسة نماذج جديدة للحماية تواكب اقتراب النماذج المفتوحة المصدر من قدرات الأنظمة المغلقة.

وتبرز هذه القضية باعتبارها واحدة من أهم التحديات التي ستواجه قطاع الذكاء الاصطناعي خلال السنوات المقبلة، خصوصاً مع تضاؤل الفجوة التقنية بين النماذج المفتوحة والمغلقة.

يكشف هذا التطور عن جانب حساس في سباق الذكاء الاصطناعي، حيث لا تقتصر المنافسة على تحسين القدرات فقط، بل تمتد إلى ضمان الاستخدام الآمن والمسؤول للتقنيات المتقدمة. وستظل مسألة الأمان من أبرز الأولويات مع استمرار تطور النماذج الذكية وانتشارها عالمياً.