OpenAI تحذر: متصفحات الذكاء الاصطناعي لن تكون آمنة كلياً
أقرت شركة OpenAI بأن متصفحات الويب المعتمدة على الذكاء الاصطناعي أكثر عرضة لهجمات حقن الأوامر من المتصفحات التقليدية، مؤكدة أن هذا التهديد قد يستمر لسنوات رغم التطويرات الأمنية.
تفاصيل الخبر
في اعتراف لافت، نشرت شركة OpenAI تدوينة أمنية أوضحت فيها أن هجمات حقن الأوامر Prompt Injection تمثل تهديداً دائماً لمتصفحات الذكاء الاصطناعي، خاصة تلك التي تعمل بوكلاء مستقلين مثل متصفح ChatGPT Atlas.
وتوضح الشركة أن هذه الهجمات تقوم على إخفاء أوامر خبيثة داخل محتوى يبدو عادياً، مثل صفحات الويب أو البريد الإلكتروني، ما يسمح بالتأثير على سلوك وكيل الذكاء الاصطناعي دون علم المستخدم.
- أكدت OpenAI أن هجمات حقن الأوامر قد لا يتم القضاء عليها بشكل كامل أبداً.
- شبّهت الشركة هذا النوع من الهجمات بعمليات الاحتيال والهندسة الاجتماعية التي لا تختفي بل تتم إدارتها.
- عرضت مثالاً لهجوم نجح في دفع وكيل ذكاء اصطناعي لإرسال رسالة استقالة بدلاً من رد تلقائي على البريد.
- تعتمد OpenAI على أنظمة دفاعية تشمل نماذج مدربة خصيصاً لاكتشاف الهجمات ومهاجم آلي داخلي لاكتشاف ثغرات جديدة.
- أوضحت أن وكلاء الذكاء الاصطناعي لا يستطيعون دائماً التمييز بين الأوامر الشرعية والمحتوى الخبيث المضمن.
- أوصت المستخدمين بتقييد صلاحيات المتصفح وعدم منحه وصولاً واسعاً للحسابات أو المهام الحساسة.
الأهداف المستقبلية
قبل استعراض التوجهات القادمة، شددت OpenAI على أن الاستخدام الواعي هو خط الدفاع الأول.
- تحسين أنظمة اكتشاف حقن الأوامر وتقليل نسب نجاح الهجمات.
- فرض خطوات تأكيد بشرية قبل تنفيذ أي إجراءات حساسة.
- تقليل الاعتماد على الأتمتة الكاملة في المهام المالية أو الإدارية.
- تعزيز الشفافية حول حدود أمان وكلاء الذكاء الاصطناعي.
- توحيد الجهود بين شركات التقنية لوضع معايير أمنية مشتركة.
رغم الإمكانات الكبيرة لمتصفحات الذكاء الاصطناعي، تؤكد OpenAI أن الأمان الكامل غير واقعي حالياً، ما يجعل الحذر وتقليل الصلاحيات أمراً ضرورياً لكل المستخدمين.
