NVIDIA تطلق منصة مفتوحة لمراقبة وكلاء الذكاء الاصطناعي بأمان
أعلنت NVIDIA عن منصة مفتوحة جديدة تهدف إلى تعزيز أمان وكلاء الذكاء الاصطناعي، من خلال عزلهم داخل بيئات محمية ومراقبة نشاطهم بشكل مستمر عبر طبقات تجمع بين البرمجيات والعتاد.
تفاصيل الخبر
كشفت إنفيديا عن NVIDIA Open Agent Safety Platform، وهي بنية مفتوحة مصممة لإضافة طبقة مستقلة من الحماية إلى أنظمة الذكاء الاصطناعي الوكيل، خصوصًا مع تزايد الحاجة إلى مراقبة الوكلاء الذين يمكنهم تنفيذ مهام متعددة والوصول إلى أدوات وبيانات مختلفة.
وتجمع المنصة بين إنفيديا OpenShell وNVIDIA Sentry لتوفير آليات للعزل والمراقبة وفرض السياسات، وتشمل أبرز مكوناتها:
- NVIDIA OpenShell: بيئة تشغيل مفتوحة المصدر تعزل وكلاء الذكاء الاصطناعي داخل بيئات Sandbox مع عزل على مستوى النواة.
- سياسات قابلة للتحقق: تسمح للمشغل بتحديد الملفات والشبكات والأدوات والعمليات وبيانات الاعتماد التي يمكن للوكيل الوصول إليها.
- NVIDIA Sentry: طبقة مراقبة مستقلة تعمل عبر عتاد NVIDIA BlueField-4 لمتابعة نشاط الوكلاء وفرض السياسات.
- NVIDIA DOCA: تربط طبقة الأمان بالسياسات وتساعد على ربط تفاعلات الوكيل بقرارات السياسة والوصول إلى الأدوات والبيانات.
- مراقبة الانحراف السلوكي: تتيح المنصة رصد الحالات التي يبتعد فيها الوكيل عن المهمة أو القيود المحددة له.
- تحكم خارج نطاق الوكيل: وضعت إنفيديا طبقة الإنفاذ خارج متناول الوكيل نفسه، بحيث لا تكون آليات الحماية تحت سيطرته.
- ثلاث طبقات للحماية: تشمل التطبيق وبيئة التشغيل والبنية التحتية، بهدف توفير حماية متدرجة خلال تشغيل وكلاء الذكاء الاصطناعي.
وتوضح إنفيديا أن الفكرة تستند إلى التعامل مع وكلاء الذكاء الاصطناعي بطريقة مشابهة لمفهوم العزل الأمني الذي ساعد في جعل استخدام الإنترنت أكثر أمانًا. كما تشير الشركة إلى أن الوكلاء قد ينحرفون عن المهمة نتيجة تعليمات غامضة أو أخطاء أو نقص الأدوات، ولذلك ترى أن الاعتماد على الوكيل وحده لمراقبة سلوكه ليس كافيًا.
الأهداف المستقبلية للمنصة
تسعى إنفيديا إلى جعل طبقات أمان وكلاء الذكاء الاصطناعي أكثر انفتاحًا وقابلية للتوسع، مع إمكانية استخدامها عبر منظومات مختلفة. وتشمل التوجهات التي أعلنت عنها الشركة:
- تعزيز التعاون مع مختبرات الذكاء الاصطناعي والمطورين ومزودي البنية التحتية.
- توفير طبقة أمان مستقلة يمكنها مراقبة الوكلاء وفرض السياسات في الوقت الفعلي.
- دعم تشغيل أعداد كبيرة من الوكلاء والوكلاء الفرعيين والأدوات مع الحفاظ على سجل واضح لنشاطهم.
- توسيع استخدام OpenShell كبيئة تشغيل آمنة ومفتوحة المصدر لوكلاء الذكاء الاصطناعي.
- الاستفادة من NVIDIA BlueField-4 لتوفير مراقبة مستمرة خارج نطاق النظام الذي يعمل عليه الوكيل.
- بناء نموذج مسؤولية مشتركة بين مطوري النماذج والمؤسسات ومزودي العتاد والبنية التحتية.
وتقول NVIDIA إن المنصة محسّنة للعمل على أنظمة تعتمد على NVIDIA Vera وBlueField DPU، مع توافقها أيضًا مع أنظمة عتادية أخرى. وفي أنظمة NVIDIA Vera Rubin POD، يمكن لـBlueField-4 مراقبة حركة الوكيل وفرض سياسات الأمان في الوقت الفعلي، مع بقائه معزولًا عن موارد المضيف.
مع توسع استخدام وكلاء الذكاء الاصطناعي في تنفيذ المهام بصورة مستقلة، يصبح توفير طبقات أمان ومراقبة مستمرة عنصرًا مهمًا في تشغيلها. وتقدم إنفيديا من خلال Open Agent Safety Platform وOpenShell تصورًا مفتوحًا يجمع بين عزل الوكلاء ومراقبة سلوكهم وفرض سياسات الأمان على مستوى البرمجيات والعتاد.
