OpenAI تطلق نظامًا لتعزيز الأمان مع حماية بيانات العملاء
تعمل OpenAI على تطوير أنظمة أمان أكثر قدرة على اكتشاف إساءة استخدام نماذج الذكاء الاصطناعي، مع الحفاظ على خصوصية العملاء، من خلال نظام جديد يتيح تحليل الأنماط دون كشف محتوى المحادثات للموظفين.
تفاصيل الخبر
كشفت OpenAI عن معاينة نظام Private Safety Processing، المصمم لتعزيز آليات الحماية في نماذج الذكاء الاصطناعي المتقدمة، مع الاستمرار في دعم سياسة الاحتفاظ بالبيانات لمدة صفر للعملاء المؤهلين.
ويهدف النظام إلى اكتشاف المخاطر التي قد لا تظهر عند تحليل طلب واحد فقط، خصوصًا مع اعتماد المستخدمين على مهام أطول وأكثر تعقيدًا، وتشمل أبرز آلية عمله:
- تحليل الأنماط المرتبطة بعدة تفاعلات بدلًا من فحص كل تفاعل بصورة منفصلة.
- اكتشاف مؤشرات إساءة الاستخدام المحتملة بصورة آلية.
- إبقاء محتوى العملاء بعيدًا عن موظفي أوبن إيه آي حتى عند اكتشاف نشاط مشبوه.
- إرسال إشارات أمان محدودة تحدد نوع النشاط ومستوى خطورته دون كشف المحتوى الأصلي.
- دعم عمليات التخزين التي يتحكم فيها العميل، مع تشفير البيانات عند استخدام البنية التحتية التي توفرها OpenAI.
- تمكين العملاء من مراجعة التنبيهات وقرارات تطبيق الإجراءات الأمنية من خلال أنظمتهم الخاصة.
وتوضح الشركة أن العملاء الذين يستخدمون التخزين الذي توفره أوبن إيه آي يمكنهم الاحتفاظ بمفاتيح التشفير والتحكم بها، بحيث لا يمتلك موظفو الشركة نسخة منها. كما يمكن للعملاء مشاركة المعلومات ذات الصلة مع أوبن إيه آي إذا أرادوا الاعتراض على إجراء أمني أو توضيح نشاط مشروع.
الأهداف المستقبلية
تسعى OpenAI إلى توسيع اختبار Private Safety Processing مع عدد من العملاء الأوائل، تمهيدًا لبدء طرح النظام بصورة أوسع. كما تخطط الشركة لنشر ورقة تقنية تشرح تفاصيل النظام خلال سبتمبر.
ويرتبط هذا التوجه بمحاولة تحقيق توازن بين السلامة والخصوصية، خاصة مع توسع استخدام نماذج الذكاء الاصطناعي في قطاعات تتعامل مع معلومات حساسة، مثل البيانات المالية والمعلومات الصحية والأبحاث الخاصة.
ومن خلال النظام الجديد، تريد أوبن إيه آي تطوير قدرات اكتشاف إساءة الاستخدام عبر تفاعلات متعددة، دون إجبار المؤسسات على التخلي عن التزاماتها المتعلقة بحماية بيانات العملاء.
يمثل Private Safety Processing خطوة جديدة نحو الجمع بين أمان نماذج الذكاء الاصطناعي وحماية خصوصية البيانات. وإذا نجحت أوبن إيه آي في توسيع النظام، فقد يساعد ذلك المؤسسات على استخدام النماذج المتقدمة بثقة أكبر، دون التضحية بسيطرتها على المعلومات الحساسة.
