NVIDIA تطلق منصة مفتوحة لتعزيز أمان وكلاء الذكاء الاصطناعي

أعلنت NVIDIA إطلاق منصة مفتوحة لأمان وكلاء الذكاء الاصطناعي، تجمع بين البرمجيات والبنية التحتية والحوسبة والروبوتات، بهدف فرض ضوابط أمنية على الوكلاء منذ الاختبار وحتى التشغيل، مع دعم التعاون بين شركات التقنية والباحثين والجهات الحكومية.

تفاصيل الخبر

أطلقت NVIDIA Open Agent Safety Platform لتوفير طبقة من الحوكمة والتحكم في وكلاء الذكاء الاصطناعي، خصوصًا مع تزايد قدرة هذه الأنظمة على تنفيذ المهام بشكل مستقل والتفاعل مع البيانات والأدوات والأنظمة المختلفة.

• تتكون المنصة من مكوّنين رئيسيين هما NVIDIA OpenShell، وهو برنامج مفتوح المصدر، وNVIDIA Sentry، وهو تصميم مرجعي لنظام أمني يعمل على مستوى العتاد.
• يوفر OpenShell بيئة تشغيل آمنة تضع حدودًا واضحة لما يمكن للوكلاء تنفيذه، مع تتبع أفعالهم وتطبيق سياسات الأمان أثناء تشغيلهم.
• يمكن توسيع OpenShell للعمل مع منصات حوسبة من جهات أخرى، بما في ذلك Arm وIntel، لأنه برنامج مفتوح المصدر.
• يعمل OpenShell مع NVIDIA Vera، وهو معالج مصمم خصيصًا لأحمال الذكاء الاصطناعي الوكيلية.
• يعتمد Sentry على معالجات NVIDIA BlueField-4 DPUs لمراقبة سلوك الوكلاء بصورة مستمرة.
• يستطيع Sentry عزل وإيقاف الوكيل خلال ميلي ثانية إذا حاول تجاوز الحدود الأمنية المسموح بها.
• يعمل Sentry بصورة مستقلة عن الوكيل من خلال نطاق ثقة معزول، ما يسمح بمراقبة النشاط وتطبيق السياسات دون أن يتمكن الوكيل أو المهاجم من تعطيله بسهولة.
• تعتمد المنصة أيضًا على NVIDIA DOCA لفحص طلبات واستجابات الوكلاء، والتحقق من هويتهم، وتطبيق سياسات وصول دقيقة للبيانات والأدوات وواجهات البرمجة والخدمات.
• تقول NVIDIA إن أكثر من 100 مؤسسة تعمل مع تقنيات المنصة، وتشمل شركات مثل Anthropic وCisco وCrowdStrike وDell Technologies وMicrosoft وPalantir وPerplexity وSAP وScale AI وServiceNow.

الأهداف المستقبلية

تسعى NVIDIA إلى جعل أمان الوكلاء جزءًا من البنية الأساسية التي تعمل عليها هذه الأنظمة، بدل الاعتماد على الحماية الموجودة داخل النموذج أو التطبيق فقط.

• وضع حدود أمنية قابلة للتنفيذ حول وكلاء الذكاء الاصطناعي أثناء تشغيلهم.
• توسيع استخدام OpenShell في بيئات المؤسسات والسحابة والأجهزة المحلية.
• تطوير آليات مراقبة مستمرة للوكلاء الذين يعملون لفترات طويلة وبدرجة عالية من الاستقلالية.
• دعم استخدام وكلاء الذكاء الاصطناعي في البرمجيات والروبوتات والأنظمة الصناعية مع ضوابط أمنية مدمجة.
• تعزيز التعاون بين شركات التقنية والباحثين والقطاع العام لتطوير ممارسات ومعايير مشتركة لأمان الوكلاء.
• توفير تقنيات مفتوحة المصدر يمكن للمطورين والمؤسسات توسيعها وتكييفها وفق احتياجاتهم.

تأتي NVIDIA Open Agent Safety Platform في ظل توسع استخدام وكلاء الذكاء الاصطناعي القادرين على تنفيذ مهام طويلة ومعقدة بصورة مستقلة. وتجمع المنصة بين الحماية البرمجية عبر OpenShell والمراقبة على مستوى العتاد عبر Sentry، بهدف توفير طبقات إضافية من التحكم والحوكمة قبل وصول الوكلاء إلى الأنظمة والبيانات الحساسة.

مصدر تقني إضافي: NVIDIA Technical Blog – NVIDIA Open Agent Safety Platform