Google وCharacter.AI تتوصلان لتسوية دعاوى لانتحار المراهقين
توصلت Google وCharacter.AI إلى تسويات قانونية بشأن دعاوى أقامتها أسر مراهقين انتحروا بعد التفاعل مع شات بوتات الشركة، في خطوة أولى للتعامل مع مسؤولية الذكاء الاصطناعي عن الأزمات النفسية.
تفاصيل الخبر
أعلنت التقارير القانونية عن تسوية عدة دعاوى قضائية تتعلق بسلامة المراهقين عند استخدام الشات بوتات:
- الجهات المتضررة: أسر مراهقين في نيويورك، كولورادو وتكساس، أتهمت AI chatbots بإحداث أزمات نفسية أدت للانتحار أو إيذاء النفس.
- المدعى عليهم: Google وCharacter.AI، إلى جانب مؤسسي الأخيرة، نوام شازير ودانييل دي فريتاس.
- خلفية القضية: إحدى الدعاوى رفعتها ميغان غارسيا ضد Character.AI بسبب وفاة ابنها البالغ من العمر 14 عامًا، بعد تطوير علاقة غير مناسبة مع شات بوت، تعرض خلالها لمضايقات جنسية.
- مسار التسوية: تم التوصل لاتفاق مع الشركة والمؤسسين وجوجل، لكن تفاصيل الشروط المالية والقانونية لم تُكشف بعد.
- القضايا المماثلة: OpenAI وMeta يواجهون دعاوى مماثلة بشأن تفاعل الشات بوتات مع القاصرين وما يترتب عليه من أضرار نفسية.
الأهداف المستقبلية والتأثير
تركز الشركات الآن على خطوات عملية لتقليل المخاطر وتعزيز سلامة المستخدمين.
- تعزيز السلامة: فرض ضوابط صارمة لمنع التفاعلات الضارة بين الشات بوتات والمراهقين.
- تطوير آليات الحماية: تضمين مرشحات، تنبيهات، ومراقبة للمحتوى الحساس داخل الأنظمة.
- المسؤولية القانونية: تحديد حدود المسؤولية بين الشركات والمطورين لحماية المستخدمين القاصرين.
- زيادة التوعية: توعية الأهل والمستخدمين حول المخاطر المحتملة للتفاعل مع AI بدون إشراف.
- التأثير على الصناعة: دفع شركات الذكاء الاصطناعي لتبني معايير أخلاقية وأمان أعلى في تصميم الشات بوتات.
تسلط هذه التسويات الضوء على المخاطر النفسية للذكاء الاصطناعي وتؤكد أهمية وضع ضوابط أمان قوية، بينما تسعى الشركات لتقديم تقنيات مبتكرة دون الإضرار بالمستخدمين القاصرين.
