الثقة المفقودة تعيق اعتماد الذكاء الاصطناعي في الحكومات
يتوسع استخدام الذكاء الاصطناعي في الحكومات والمؤسسات الدفاعية، لكن حماية البيانات أثناء معالجة النماذج أصبحت تحدياً أساسياً، ما يجعل التحقق من أمن البنية التحتية شرطاً مهماً قبل الاعتماد على هذه الأنظمة في المهام الحساسة.
تفاصيل الخبر
مع توجه المؤسسات الحكومية، وخصوصاً الجهات الدفاعية، نحو بناء أنظمة تعتمد على الذكاء الاصطناعي بشكل أكبر، تظهر مشكلة تتجاوز أداء النماذج وخصوصية البيانات، وهي كيفية حماية المعلومات أثناء استخدامها فعلياً داخل الذاكرة.
وتوضح المقالة أن أنظمة الأمن التقليدية تركز بصورة كبيرة على حماية البيانات أثناء تخزينها أو انتقالها عبر الشبكات، بينما تعمل نماذج الذكاء الاصطناعي على معالجة البيانات داخل الذاكرة، ما يفتح نوعاً مختلفاً من المخاطر.
ومن أبرز النقاط التي يسلط التقرير الضوء عليها:
- يمكن لمسؤول يمتلك صلاحيات إدارية مرتفعة الوصول إلى البيانات التي يعالجها نموذج الذكاء الاصطناعي أثناء تشغيله.
- قد يؤدي اختراق بيانات اعتماد أحد المسؤولين إلى منح المهاجم مستوى مماثلاً من الوصول إلى البنية التحتية.
- لا يحتاج هذا النوع من الهجمات بالضرورة إلى اختراق جدار ناري أو تثبيت برمجيات خبيثة.
- قد تكون المعلومات الموجودة في ذاكرة النظام مكشوفة للمستخدم الذي يمتلك صلاحيات إدارية كافية.
- يمثل هذا الأمر خطراً أكبر بالنسبة للجهات التي تتعامل مع معلومات سرية أو بيانات مرتبطة بالأمن القومي.
- عزل الأنظمة عن الإنترنت من خلال الشبكات المعزولة Air-Gapped يقلل مخاطر الهجمات الخارجية، لكنه لا يمنع بالضرورة الوصول الداخلي من شخص يمتلك صلاحيات مشروعة.
- تقترح التقنيات الحديثة نقل جزء من الثقة الأمنية من البرمجيات إلى العتاد نفسه.
ومن الحلول التي يبرزها التقرير الذي يتكلم عن الذكاء الاصطناعي في الحكومات استخدام بيئات التنفيذ الموثوقة (TEEs)، وهي مناطق معزولة داخل المعالج تسمح بمعالجة البيانات مع إبقائها مشفرة في الذاكرة حتى أثناء تنفيذ العمليات.
كما تلعب المصادقة المشفرة (Cryptographic Attestation) دوراً مهماً، إذ يستطيع العتاد إنشاء تقرير موقع تشفيرياً يثبت هويته وسلامة برمجياته والبيئة التي يعمل فيها قبل السماح له بالوصول إلى البيانات أو مفاتيح التشفير.
الأهداف المستقبلية
يرى التقرير أن الجهات الحكومية التي تريد توسيع استخدام الذكاء الاصطناعي في الحكومات ستحتاج إلى الانتقال من مجرد الثقة في الأنظمة إلى القدرة على التحقق من حالتها الأمنية بشكل مستمر.
ومن أبرز الأهداف المستقبلية:
- حماية البيانات أثناء معالجتها داخل ذاكرة أنظمة الذكاء الاصطناعي.
- تقليل مخاطر المسؤولين الداخليين الذين يمتلكون صلاحيات واسعة.
- الحد من تأثير اختراق بيانات اعتماد المستخدمين الإداريين.
- استخدام العتاد كطبقة أساسية لبناء الثقة الأمنية.
- تطبيق بيئات تنفيذ معزولة لحماية البيانات والنماذج أثناء التشغيل.
- الاعتماد على المصادقة المشفرة للتحقق من سلامة بيئة تشغيل الذكاء الاصطناعي.
- توفير أدلة تقنية مستمرة يمكن استخدامها عند اتخاذ قرارات السماح للأنظمة بمعالجة البيانات الحساسة.
- دمج آليات التحقق والأمان في بنية أنظمة الذكاء الاصطناعي منذ مرحلة التصميم بدلاً من إضافتها لاحقاً.
ويشير الكاتب إلى أن الجمع بين العزل الذي يفرضه العتاد، والمصادقة المشفرة، والقدرة على تشغيل الأنظمة في بيئات مغلقة يمكن أن يساعد الذكاء الاصطناعي في الحكومات على تحقيق توازن بين قدرات الذكاء الاصطناعي في الحكومات.
وبذلك، قد يصبح التحقق من البنية التحتية وليس مجرد الاعتماد على السياسات الأمنية عاملاً أساسياً في تحديد مدى جاهزية أنظمة الذكاء الاصطناعي للمهام الحكومية الحساسة.
مع انتقال الذكاء الاصطناعي في الحكومات إلى مجالات الدفاع والأمن والمهام الحكومية الحساسة، لم تعد قوة النموذج وحدها كافية. فحماية البيانات أثناء المعالجة والقدرة على إثبات سلامة البيئة التي يعمل فيها النظام قد تصبحان من أهم شروط بناء الثقة في الجيل القادم من أنظمة الذكاء الاصطناعي الحكومية.
