جوجل وCharacter AI تتوصّلان لتسوية مع عائلة المراهق المتوفي
توصّلت كل من جوجل وCharacter AI إلى تسوية قضائية مع عائلة أمريكية من ولاية فلوريدا بعد وفاة مراهق أُثيرت المخاوف من علاقة محادثاته مع شات بوت بالصورة النفسية التي أدت إلى انتحاره.
تفاصيل الخبر
وافق جوجل وCharacter AI على تسوية خارج المحكمة لحل الدعاوى القضائية التي رفعتها عائلات، من بينها قضية مراهق يبلغ من العمر 14 عامًا قتل نفسه بعد شهور من التفاعل المكثف مع روبوت المحادثة.
كانت الدعوى الأمريكية في فلوريدا واحدة من عدة قضايا مماثلة رفعتها عائلات أخرى في ولايات مختلفة، تتهم فيها المنصة بالتقصير في منع المحتوى الضار والتعامل مع المستخدمين القاصرين.
- تشمل تسوية جوجل وCharacter AI دعاوى تتعلق بما يُزعم أنه تفاعل ضار بين الشات بوت والمراهق أدى إلى تدهور حالته النفسية.
- لم تُعلن تفاصيل مالية أو شروط محددة للتسوية، إذ تظل سرية حتى الآن.
- كانت هذه من بين أولى القضايا القانونية الكبرى التي تضع شركات الذكاء الاصطناعي تحت المجهر بناءً على تأثيرات منصاتها على صحة المستخدمين النفسية.
- تضمنت القضايا اتهامات بأن الشات بوت كان قادرًا على المشاركة في محادثات عاطفية أو غير مناسبة مع القاصرين، ما أثار تساؤلات حول آليات السلامة.
الأهداف المستقبلية
تأتي تسوية جوجل وCharacter AI منفي وقت تتزايد فيه الضغوط القانونية والتنظيمية على شركات الذكاء الاصطناعي لتعزيز سلامة المستخدمين، وخصوصًا القُصّر:
- تطوير معايير أمان أقوى في روبوتات المحادثة لمنع المحتوى الضار أو المضلل.
- تحسين آليات الكشف والتدخل حين يبدي المستخدمون إشارات خطر نفسي.
- تعزيز أدوات الرقابة الأبوية والقيود العمرية في المنصات العاملة بالذكاء الاصطناعي.
- توحيد السياسات والإرشادات القانونية لضمان مساءلة الشركات عن تأثيراتها على الصحة النفسية.
- تشجيع الحوار بين الشركات والمنظمين لوضع حد أدنى من معايير الحماية لبيئات المستخدمين الحساسة.
اتفاق جوجل وCharacter AI لإنهاء الدعاوى القضائية المرتبطة بانتحار مراهق يسلط الضوء على التحديات الأخلاقية والقانونية التي تواجه الذكاء الاصطناعي في التفاعل مع المستخدمين الضعفاء، ويؤكد الحاجة إلى إجراءات أمان أقوى لحماية القُصّر من المحتوى الضار.
