روبوت دعم فني يتسبب في أزمة شركة تعتذر بعد فوضى سياسات وهمية
أثار روبوت دعم فني يعمل بالذكاء الاصطناعي أزمة بعد أن اخترع سياسة غير موجودة، مما تسبب في موجة غضب بين المستخدمين وإلغاء العديد من الاشتراكات.
ما الذي حدث؟
في حادثة أثارت جدلًا واسعًا بين المطورين، واجهت شركة Cursor المتخصصة في أدوات تحرير الشيفرة البرمجية المدعومة بالذكاء الاصطناعي انتقادات واسعة بعد أن قدّم روبوت دعم فني يُدعى “سام” ردًا خاطئًا على استفسار مستخدم، حيث:
- اشتكى مطور من تسجيل خروجه تلقائيًا عند التنقل بين أجهزته.
- تلقى ردًا من “سام” يزعم أن هناك سياسة جديدة تمنع استخدام الاشتراك على أكثر من جهاز.
- الرد بدا رسميًا وموثوقًا، لكن تبيّن لاحقًا أن السياسة من اختراع الذكاء الاصطناعي.
- انتشرت القصة على Reddit وHacker News، وتوالت ردود الفعل الغاضبة من المطورين.
- أعلن العديد من المستخدمين عن إلغاء اشتراكاتهم احتجاجًا على هذا “التغيير”.
- بعد ساعات، ظهر موظفو Cursor ليؤكدوا أن السياسة غير موجودة، وأن الرد كان من AI غير خاضع للإشراف البشري.
أهداف الشركة بعد الحادثة وتصحيح المسار
فيما يلي أهم الخطوات التي أعلنتها Cursor بعد حادثة روبوت الدعم الفني:
- تصنيف الردود التي تولدها أدوات الذكاء الاصطناعي بوضوح، حتى يعرف المستخدم أنها غير بشرية.
- تقديم اعتذار رسمي من المؤسس المشارك مايكل ترويل، وتعويض المستخدم المتضرر.
- مراجعة التغييرات التقنية الخلفية التي تسببت في المشكلة.
- التأكيد أن النظام يستخدم الذكاء الاصطناعي كـ”مرشح أولي” فقط، مع تدخل بشري لاحق.
- تعزيز الرقابة على ردود الدعم الفني لتفادي الهلاوس التقنية (AI hallucinations).
رغم الإصلاح السريع لروبوت دعم فني، أظهرت هذه الحادثة التحديات الحقيقية التي تواجهها الشركات عند استخدام الذكاء الاصطناعي في الخطوط الأمامية دون إشراف بشري دقيق.
