باحثو ستانفورد يحذرون من مخاطر بوتات العلاج النفسي
دراسة لجامعة ستانفورد تكشف أن بوتات الدردشة العلاجية المدعومة بنماذج لغوية ضخمة قد تعزز الوصم وتقدم ردودًا خطرة، ما يثير جدلاً حول دور بوتات العلاج النفسي في الصحة النفسية.
تفاصيل الخبر
حذّر باحثون من جامعة ستانفورد من الاعتماد المفرط على بوتات العلاج النفسي التي تعمل بنماذج لغوية ضخمة لتقديم الدعم النفسي.
تناولت الدراسة التي ستُعرض هذا الشهر في مؤتمر “الإنصاف والمساءلة والشفافية” تقييم 5 بوتات دردشة متخصصة في العلاج النفسي، وقد تم تحليل أدائها وفق معايير جودة المعالج البشري:
- أظهرت النتائج أن بعض البوتات تعبّر عن وصم تجاه المرضى النفسيين.
- قدّمت أحيانًا ردودًا غير مناسبة أو خطرة على الحالات الحرجة.
- شجّعت بعض البوتات على أفكار وهمية نتيجة الميل إلى مجاملة المستخدمين.
- تم اختبار نماذج حديثة مثل GPT-4o ومع ذلك ظهرت ثغرات السلامة نفسها.
- أشارت الدراسة إلى أن العلاقة العلاجية تتطلب هوية بشرية وروابط وجدانية لا توفرها النماذج الآلية.
الأهداف المستقبلية
قبل عرض الأهداف، يجدر التأكيد على أن الباحثين لا يرفضون تقنية بوتات العلاج النفسي تمامًا، بل يدعون إلى توجيهها:
- تطوير معايير أمان صارمة قبل نشر أي بوت علاجي للجمهور.
- استخدام النماذج اللغوية كمساعدين داعمين للمعالجين، لا كبدائل.
- تحسين خوارزميات الكشف عن الوصم والمحتوى المؤذي.
- الاستثمار في تدريب متعدد التخصصات يجمع خبراء الذكاء الاصطناعي والأطباء النفسيين.
خلصت دراسة ستانفورد إلى أنبوتات العلاج النفسيالحالية لا يمكنها أن تحل محل المعالج البشري بأمان، لكنها قد تصبح أدوات مساعدة إذا استُخدمت بمسؤولية ووفق ضوابط واضحة.
