روبلكس تطلق Sentinel للذكاء الصناعي للكشف المبكر عن المخاطر
أطلقت روبلكس نظام Sentinel الذكي للكشف المبكر عن محاولات استغلال الأطفال عبر تحليل المحادثات، مما يعزز بيئة اللعب الآمنة لملايين المستخدمين حول العالم.
تفاصيل الخبر
في إطار جهودها المستمرة لحماية مستخدميها، خاصة الأطفال، طورت روبلكس نظام Sentinel المعتمد على الذكاء الاصطناعي للكشف المبكر عن أنماط المحادثات المشبوهة.
- يستخدم Sentinel تقنيات تعلم متباين لتحليل المحادثات ورصد الإشارات المبكرة لمحاولات الاستغلال مثل الاستدراج.
- يقوم النظام بتحليل أكثر من 6 مليارات رسالة يوميًا، ويجمع البيانات على مدار الوقت لرصد الأنماط المشبوهة.
- يعمل Sentinel على مقارنة المحادثات مع مؤشرين: مؤشر إيجابي للرسائل الآمنة، ومؤشر سلبي للرسائل التي تم تصنيفها كمخالفة.
- النظام قادر على اكتشاف السلوكيات الضارة حتى في حالات استخدام لغة مشفرة أو غير مباشرة من قبل المعتدين.
- يعتمد Sentinel على مراجعة بشرية دقيقة من خبراء متخصصين لتحليل الحالات الم flagged من قبل النظام.
الأهداف المستقبلية
هدف روبلكس من تطوير Sentinel هو توفير بيئة لعب أكثر أمانًا عبر:
- توسيع قدرات النظام ليشمل تحليل الفيديو والصوت والنصوص مجتمعة لفهم أعمق للسلوكيات.
- تحديث وتطوير خوارزميات الذكاء الاصطناعي باستمرار لمواكبة أساليب المخاطر المتغيرة.
- زيادة التعاون مع المجتمع المفتوح عبر توفير النظام كمصدر مفتوح لتعزيز سلامة الإنترنت بشكل عام.
- الاعتماد على دمج التقنية مع العنصر البشري لتعزيز دقة وفعالية الرصد والتدخل المبكر.
نظام Sentinel يمثل نقلة نوعية في مجال سلامة الألعاب الرقمية، حيث يتيح الكشف المبكر عن المخاطر عبر الذكاء الاصطناعي والتدخل السريع، مما يجعل بيئة روبلكس أكثر أمانًا ومتعة للمستخدمين جميعًا.
