تقارير: استخدام Grok من xAI يشهد انتشارًا واسعًا للمحتوى الحساس
أفادت تقارير إعلامية استنادًا إلى مصادر من The Information، أن روبوت الدردشة Grok التابع لشركة xAI يشهد نمط استخدام غير معتاد، حيث تُشير تقديرات داخلية إلى أن جزءًا كبيرًا من التفاعل مع النظام مرتبط بمحتوى حساس أو مخصص للبالغين، بما في ذلك محادثات ذات طابع جنسي وتوليد محتوى غير ملائم.
تفاصيل الاستخدام المبلغ عنه في Grok
تشير التسريبات المنسوبة إلى موظفين سابقين في الشركة إلى أن استخدام Grok لا يتركز فقط على المهام المعلوماتية أو الإنتاجية، بل يتجه بشكل ملحوظ نحو التفاعل الترفيهي أو الحساس.
وتتضمن أبرز ما ورد في التقارير:
- تقديرات داخلية تشير إلى أن “أكثر من نصف” حركة الاستخدام قد تكون مرتبطة بمحتوى NSFW.
- انتشار محادثات تمثيل أدوار ذات طابع جنسي بين المستخدمين والنظام.
- استخدام أدوات توليد الصور أو المحتوى النصي في سياقات غير مخصصة لها.
- توجيه جزء كبير من الطلبات نحو حالات استخدام لم تكن جزءًا أساسيًا من التصميم الأصلي للنظام.
لماذا يثير هذا الموضوع الاهتمام؟
تعكس هذه التقارير عدة قضايا مهمة في صناعة الذكاء الاصطناعي، خاصة فيما يتعلق بكيفية استخدام النماذج في الواقع مقارنةً بالأهداف التصميمية الأصلية.
ومن أبرز الدلالات:
- ارتفاع الطلب على أنظمة ذكاء اصطناعي أقل تقييدًا من حيث المحتوى.
- تحديات كبيرة في ضبط المحتوى ومنع الاستخدامات غير المقصودة.
- التوتر بين قياس النجاح عبر عدد الاستخدامات مقابل المسؤولية الأخلاقية.
- اختلاف واضح بين سياسات xAI وبعض شركات الذكاء الاصطناعي الأخرى الأكثر تشددًا في المحتوى.
- زيادة الجدل حول حدود حرية التفاعل مع نماذج الذكاء الاصطناعي.
تأتي هذه التقارير في وقت تتزايد فيه النقاشات حول المحتوى المولّد بالذكاء الاصطناعي، خاصة مع مخاوف تتعلق بالتزييف العميق (Deepfakes) وإمكانية إساءة استخدام النماذج. كما تواجه الشركات ضغوطًا تنظيمية متزايدة لوضع حدود واضحة لما يمكن أن تنتجه هذه الأنظمة.
إذا كانت هذه التقديرات دقيقة، فإنها تشير إلى أن استخدام Grok يختلف بشكل كبير عن أنماط الاستخدام التقليدية لمساعدي الذكاء الاصطناعي، ما يسلط الضوء على التحديات المعقدة في إدارة المحتوى والتوازن بين الحرية والسلامة في هذا المجال.
