خطأ بنظام أمني بالذكاء الاصطناعي يؤدي لتكبيل طالب بسبب دوريتوس

أثار نظام أمني يعتمد على الذكاء الاصطناعي في إحدى المدارس الثانوية بولاية ماريلاند الأميركية جدلاً واسعاً بعد أن فسر كيس رقائق “دوريتوس” على أنه سلاح ناري محتمل، ما أدى إلى تدخل الشرطة وتكبيل أحد الطلاب عن طريق الخطأ.

تفاصيل الحادثة

وقعت الحادثة في مدرسة كينوود الثانوية (Kenwood High School) في مقاطعة بالتيمور، عندما رصد نظام اكتشاف الأسلحة المدعوم بالذكاء الاصطناعي إشارة تُظهر الطالب تاكي ألين وهو يحمل كيس رقائق. غير أن النظام فسر حركة يده على أنها وضعية تشبه إمساك مسدس، مما أدى إلى إطلاق إنذار فوري.

ورغم أن قسم نظام أمني بالمدرسة قام بمراجعة الإنذار وإلغائه بسرعة بعد التأكد من عدم وجود خطر حقيقي، فإن مديرة المدرسة كايتي سميث كانت قد أبلغت ضابط الموارد المدرسية بالحادثة قبل تلقيها تأكيد الإلغاء، ما دفعه لاستدعاء الشرطة المحلية.

عند وصول الشرطة، تم تقييد الطالب وتفتيشه وسط ذهول زملائه. وقال ألين لوسائل إعلام أميركية:

“أجبروني على الركوع ووضع يدي خلف ظهري، وكبلوني بالأصفاد. كنت فقط أحمل كيس دوريتوس”.

وأوضح أنه في لحظة المواجهة، كان يعتقد أنه قد يتعرض للأذى، خاصة مع توجيه أحد الضباط سلاحه نحوه.

ردود الفعل الرسمية

أصدرت مديرة المدرسة بياناً أعربت فيه عن أسفها لما حدث، مشددة على أن “سلامة الطلاب هي أولوية قصوى”، ومؤكدة أن الحادث “كان مزعجاً لجميع من شهدوه”.

من جهتها، شركة Omnilert — المطوّرة لنظام اكتشاف الأسلحة بالذكاء الاصطناعي المستخدم في مدارس مقاطعة بالتيمور منذ عام 2023 — أعربت عن أسفها لما جرى، موضحة أن النظام “عمل كما هو مصمم، أي رصد تهديد محتمل ورفعه لمراجعة بشرية سريعة”، مضيفة:

“نأسف لحدوث هذا الموقف، ونتمنى السلامة للطالب والمجتمع المدرسي بأكمله”.

أما مشرفة المدارس العامة في بالتيمور، ميريام روجرز، فقد وصفت الحادث بأنه “مؤسف للغاية”، وأكدت أن المقاطعة ستقوم بمراجعة شاملة لإجراءات الأمان ونظام الذكاء الاصطناعي لتفادي تكرار الأخطاء.

موجة انتقادات ومطالب بالمحاسبة

أثارت الحادثة غضباً واسعاً في المجتمع المحلي، حيث طالب أقارب الطالب والعديد من المسؤولين بمراجعة عاجلة للنظام.
وقال إيزي باتوكا، عضو مجلس مقاطعة بالتيمور:

“لا ينبغي لأي طفل في مدارسنا أن يُواجه الشرطة لمجرد تناوله كيس دوريتوس.”

كما دعا عضو المجلس جوليان جونز إلى إضافة ضمانات جديدة داخل أنظمة الذكاء الاصطناعي الأمنية لضمان عدم تكرار مثل هذه الأخطاء.

تسلط هذه الحادثة الضوء على الحدود الدقيقة بين الأمان والخطر في استخدام أدوات الذكاء الاصطناعي في المدارس، خاصة في أنظمة المراقبة والكشف عن الأسلحة. وبينما تهدف هذه الأنظمة إلى حماية الطلاب من التهديدات الحقيقية، فإنها قد تخلق مواقف مؤذية نفسياً واجتماعياً عندما تُخطئ في التقدير، ما يفتح باباً جديداً للنقاش حول كيفية دمج الذكاء الاصطناعي في الأمن المدرسي بمسؤولية وشفافية.