Sainsbury’s توقف كاميرات الذكاء الاصطناعي بعد اتهام متسوق
أوقفت Sainsbury’s استخدام تقنية التعرّف على الوجه بالذكاء الاصطناعي في أحد متاجرها بلندن، بعدما تعرّض متسوق لاتهام خاطئ بالسرقة وطُلب منه مغادرة المتجر.
تفاصيل إيقاف كاميرات الذكاء الاصطناعي
جاء القرار بعد حادثة وقعت في 6 أغسطس داخل متجر Sainsbury’s في إيست دولويتش، حيث كان مات أرنولد، البالغ 46 عاماً، يتسوق ويدفع عند أحد أجهزة الدفع الذاتي. وقال إن موظفي الإدارة أوقفوه وأخبروه بأن نظام الذكاء الاصطناعي حدده باعتباره شخصاً مرتبطاً بحادثة سابقة.
- قال أرنولد إنه شعر بأن التجربة كانت «نظرة مخيفة إلى المستقبل».
- شاهد لاحقاً شاشة مراقبة تحتوي على تنبيه أحمر يحيط بوجهه.
- اعتذرت سينسبريز له في اليوم التالي، وقالت إن الخطأ نتج عن خطأ بشري وليس خللاً في التقنية.
- أوقفت الشركة استخدام النظام مؤقتاً في متجر إيست دولويتش إلى حين انتهاء التحقيق.
- التقنية المستخدمة مقدمة من شركة فيس ووتش المتخصصة في التعرّف على الوجه.
- أكدت سينسبريز أن النظام يحقق، بحسب بيانات الشركة، نسبة دقة تبلغ 99.98%.
- قالت فيس ووتش إن التنبيه الذي وصل إلى المتجر كان صحيحاً، لكن الخطأ حدث أثناء تعامل الموظفين معه.
- سبق أن تعرض متسوق آخر، وارن راجا، لموقف مشابه بعد أن تم تحديده بشكل خاطئ بواسطة النظام نفسه.
- دافعت Sainsbury’s عن استخدام التقنية، مشيرة إلى ارتفاع حوادث العنف والإساءة ضد العاملين في قطاع التجزئة.
- قالت الشركة إن التجارب الأولية للتقنية في متجرين ساهمت في انخفاض الحوادث المسجلة المتعلقة بالسرقة والسلوك المعادي للمجتمع بنسبة 46%.
وتثير الواقعة سؤالاً مهماً حول حدود الاعتماد على أنظمة الذكاء الاصطناعي في الأماكن العامة، خصوصاً عندما تؤدي تنبيهات آلية إلى اتخاذ قرارات تمس سمعة الأشخاص أو تعاملهم داخل المتاجر.
ما مستقبل استخدام التعرّف على الوجه في المتاجر؟
رغم إيقاف النظام مؤقتاً في المتجر المعني، لم تعلن Sainsbury’s عن التخلي عن التقنية في جميع فروعها. وتشير الشركة إلى أن الهدف الأساسي منها هو مواجهة السرقة وحماية الموظفين، بينما يرى منتقدون أن أخطاء التعرّف على الأشخاص قد تؤدي إلى معاملة العملاء كأنهم مجرمون دون أدلة كافية.
ومن أبرز التحديات المستقبلية:
- تحسين تدريب الموظفين على التعامل مع تنبيهات الذكاء الاصطناعي.
- التأكد من مراجعة التنبيهات قبل اتخاذ أي إجراء ضد العملاء.
- توضيح المسؤولية عند حدوث أخطاء في أنظمة المراقبة.
- تحقيق توازن بين مكافحة السرقة وحماية خصوصية العملاء وحقوقهم.
- وضع ضوابط أكثر صرامة لاستخدام التعرّف على الوجه في الأماكن العامة.
- مراقبة معدلات الأخطاء الفعلية بدلاً من الاعتماد على نسب الدقة النظرية فقط.
وتبرز القضية أهمية وجود عنصر بشري مسؤول عند استخدام الذكاء الاصطناعي في قرارات حساسة، إذ إن النظام قد يقدم تنبيهاً، لكن القرار النهائي وطريقة التعامل مع الشخص يجب ألا يعتمدا على الآلة وحدها.
تكشف حادثة Sainsbury’s أن استخدام الذكاء الاصطناعي في مراقبة المتاجر يمكن أن يساعد في مواجهة السرقة، لكنه يطرح في الوقت نفسه مخاوف حقيقية بشأن الأخطاء والخصوصية والمعاملة غير العادلة. وستكون قدرة الشركات على الجمع بين التقنية والحكم البشري عاملاً أساسياً في تحديد مستقبل هذه الأنظمة.
