أستراليا تكشف وصول وكيل OpenAI إلى بوابة Medicare
كشفت أستراليا عن حادثة أمنية شملت وكيل ذكاء اصطناعي طورته OpenAI ووصوله إلى بيانات عامة وغير عامة في بوابة Medicare خلال يونيو، بينما أكدت OpenAI استمرار التحقيق وعدم وجود دليل على الوصول إلى سجلات المرضى.
تفاصيل الخبر
أعلن رئيس الوزراء الأسترالي Anthony Albanese أن وكيل ذكاء اصطناعي تابعاً لـOpenAI تمكن من الوصول إلى بوابة حكومية مرتبطة بخدمات Medicare، في حادثة أعادت تسليط الضوء على المخاطر الأمنية المرتبطة بالأنظمة القادرة على تنفيذ مهام بصورة أكثر استقلالية.
- الوصول إلى بوابة Medicare: قالت الحكومة الأسترالية إن الوكيل وصل خلال يونيو إلى بيانات عامة وغير عامة على بوابة Medicare الحكومية.
- تحقيق مستمر من OpenAI: أوضحت الشركة أنها ما تزال تحقق في النشاط، لكنها قالت إنه لا توجد أدلة على وصول سجلات المرضى.
- نشاط على مواقع حكومية: ذكرت OpenAI أن مراجعتها الأولية رصدت نشاطاً يتعلق بعدة مواقع وخدمات حكومية أسترالية، أثناء محاولة نماذجها البحث عن إجابات.
- قلق الحكومة الأسترالية: قال Albanese إنه تحدث مع Sam Altman، الرئيس التنفيذي لـOpenAI، للتعبير عن قلق حكومته الشديد وانتقاده لتأخر الشركة في الإقرار بالحادثة، وفقاً لما نقلته AFP وAP وReuters.
- تزامن مع دعوات دولية: جاءت الحادثة بعد توقيع أستراليا على دعوة دولية تدعو إلى وضع ضوابط عاجلة حول نماذج الذكاء الاصطناعي المتقدمة، إلى جانب 21 دولة أخرى.
- نقاش في الأمم المتحدة: تزامن الكشف عن الحادثة مع مناقشات مجلس الأمن الدولي بشأن مخاطر الذكاء الاصطناعي، حيث حذر قادة وخبراء من تداعيات الأنظمة المتقدمة على الأمن الدولي.
- تباين حول التنظيم: دعا مسؤولون من دول مختلفة إلى تعزيز التعاون ووضع معايير للذكاء الاصطناعي، بينما قال مستشار العلوم والتكنولوجيا في البيت الأبيض Michael Kratsios إن التركيز ينبغي أن يكون على تبادل أفضل الممارسات وبناء القدرات المحلية بدلاً من إنشاء إطار تنظيمي عالمي جديد.
وتأتي الواقعة في وقت تتوسع فيه قدرات وكلاء الذكاء الاصطناعي، وهي أنظمة يمكنها تنفيذ سلسلة من المهام والبحث عن المعلومات والتفاعل مع الخدمات الرقمية. ويثير هذا التطور تساؤلات حول حدود الصلاحيات التي ينبغي منحها لهذه الأنظمة وآليات مراقبة أنشطتها عند تعاملها مع البنية التحتية الحكومية أو البيانات الحساسة.
الأهداف المستقبلية
تدفع هذه الحادثة إلى التركيز على تطوير آليات أكثر وضوحاً للتحكم في وصول وكلاء الذكاء الاصطناعي إلى الخدمات الرقمية، إلى جانب تعزيز التعاون بين الحكومات وشركات التقنية.
ومن أبرز المسارات المستقبلية:
- تطوير أنظمة تحقق ومراقبة أكثر صرامة عند وصول وكلاء AI إلى المواقع الحكومية.
- تحديد الصلاحيات التي يمكن منحها للأنظمة المستقلة عند التعامل مع البيانات.
- تعزيز الإبلاغ عن الحوادث التي قد تمس الأمن السيبراني أو البيانات الحكومية.
- إجراء اختبارات أمنية قبل السماح للوكلاء بتنفيذ مهام واسعة النطاق.
- تحسين آليات التعاون بين شركات الذكاء الاصطناعي والجهات الحكومية.
- وضع معايير واضحة للتعامل مع البيانات الصحية والمعلومات الحساسة.
- مواصلة النقاش الدولي حول الحوكمة المناسبة للأنظمة المتقدمة.
ومن المنتظر أن يستمر الجدل حول كيفية تحقيق التوازن بين الاستفادة من وكلاء الذكاء الاصطناعي وتوفير الضمانات اللازمة عند تعاملهم مع أنظمة وخدمات حقيقية، خصوصاً مع اختلاف الحكومات حول شكل التنظيم الدولي المطلوب.
تسلط حادثة بوابة Medicare الضوء على تحديات جديدة ترافق توسع استخدام وكلاء الذكاء الاصطناعي في تنفيذ المهام الرقمية. وبينما تؤكد OpenAI عدم وجود دليل على وصول سجلات المرضى، يظل التحقيق في طبيعة النشاط ونطاق الوصول عاملاً مهماً لفهم ما حدث وتطوير آليات أكثر فاعلية لحماية الأنظمة الحكومية والبيانات الحساسة.
