OpenAI تطلق Lockdown Mode ووسوم الخطر المرتفع

في ظل تصاعد مخاطر حقن الأوامر والهجمات السيبرانية المرتبطة بالذكاء الاصطناعي، أعلنت OpenAI عن ميزتين أمنيتين جديدتين داخل ChatGPT لتعزيز حماية البيانات الحساسة ومنح المستخدمين رؤية أوضح للمخاطر المحتملة عند تفعيل بعض القدرات المتقدمة.

تفاصيل الخبر

كشفت OpenAI عن إطلاق وضع Lockdown Mode ووسوم Elevated Risk داخل ChatGPT، في خطوة تهدف إلى الحد من مخاطر هجمات Prompt Injection وتسريب البيانات.

Lockdown Mode هو إعداد أمني متقدم واختياري مخصص لفئة محدودة من المستخدمين ذوي الحساسية العالية، مثل التنفيذيين وفرق الأمن.
يعمل الوضع على تقييد تفاعل ChatGPT مع الأنظمة والأدوات الخارجية بشكل صارم، لمنع استغلال الثغرات لنقل بيانات حساسة.
في هذا الوضع، يتم تعطيل بعض الأدوات بالكامل إذا لم يكن من الممكن ضمان حماية البيانات بشكل حتمي.
يقتصر التصفح على محتوى مخزن مؤقتًا (Cached Content) دون تنفيذ طلبات شبكة مباشرة، لتقليل مخاطر تسريب البيانات.
يتوفر حاليًا لمشتركي ChatGPT Enterprise وEdu وHealthcare وTeachers، مع إمكانية تفعيله عبر إعدادات المسؤولين داخل بيئة العمل.
أما ميزة Elevated Risk فهي وسم تحذيري يظهر عند استخدام قدرات قد تنطوي على مخاطر إضافية، مثل منح المساعد إمكانية الوصول إلى الإنترنت.
سيتم توحيد هذا الوسم عبر ChatGPT وChatGPT Atlas وCodex لتقديم إرشادات متسقة حول المخاطر المحتملة.

الأهداف المستقبلية

تسعى OpenAI من خلال هذه الخطوة إلى بناء إطار أمني أكثر استباقية، يوازن بين قوة الاتصال بالشبكات الخارجية وحماية البيانات، وذلك عبر:

تعزيز الشفافية بشأن المخاطر المرتبطة بالميزات المتصلة بالإنترنت.
تمكين المؤسسات من فرض سياسات وصول دقيقة على مستوى التطبيقات والإجراءات.
تطوير آليات أمان متقدمة تقلل الحاجة إلى قيود صارمة مستقبلاً.
إزالة وسم Elevated Risk تدريجيًا عند التأكد من معالجة المخاطر تقنيًا بشكل كافٍ.

تعكس هذه المبادرة إدراكًا متزايدًا بأن توسع قدرات الذكاء الاصطناعي المتصلة بالويب يتطلب أدوات تحكم واضحة ومفهومة للمستخدمين، خاصة عند التعامل مع بيانات خاصة أو حساسة.

في الختام، تمثل Lockdown Mode ووسوم الخطر المرتفع خطوة مهمة نحو ترسيخ ممارسات أمان أكثر صرامة، مع منح المستخدمين والمؤسسات قدرة أكبر على التحكم في كيفية استخدام تقنيات الذكاء الاصطناعي بأمان.