الذكاء الاصطناعي الوكيلي يفرض تحديات حوكمة على الرعاية الصحية
يشهد قطاع الرعاية الصحية توسعًا سريعًا في استخدام الذكاء الاصطناعي الوكيلي، لكن هذا الانتشار يفرض تحديات جديدة تتعلق بالأمان والخصوصية والحوكمة، خصوصًا مع استخدام بعض الموظفين أدوات غير معتمدة داخل المؤسسات الصحية.
تفاصيل الخبر
كشف تقرير جديد أعدته شركة Imprivata بالتعاون مع Vanson Bourne عن اتساع تحديات حوكمة الذكاء الاصطناعي الوكيلي في مؤسسات الرعاية الصحية، مع تزايد استخدام الوكلاء القادرين على تنفيذ المهام بدرجات مختلفة من الاستقلالية.
وشمل الاستطلاع 250 من قادة الرعاية الصحية في الولايات المتحدة، وأظهر مجموعة من المؤشرات المهمة:
- أفاد 28% من المشاركين بأن لديهم بالفعل وكلاء ذكاء اصطناعي قيد الاستخدام الفعلي داخل مؤسساتهم.
- قال 44% إنهم يجرون تجارب على وكلاء الذكاء الاصطناعي تمهيدًا لاستخدامهم على نطاق أوسع.
- يتوقع 88% من القادة أن تعمل وكلاء الذكاء الاصطناعي بدرجة من الاستقلالية ضمن سير العمل التشغيلي والسريري.
- رغم ذلك، أقر 72% بأن بعض أدوات أو وكلاء الذكاء الاصطناعي يتم نشرها دون موافقة رسمية من أقسام تكنولوجيا المعلومات.
- اعتبر 57% من المشاركين أن الأمن يمثل أحد أهم ثلاثة مخاوف، خاصة بسبب الصلاحيات الزائدة أو غير الضرورية التي قد يحصل عليها الوكلاء عند تفاعلهم مع الأنظمة السريرية.
- يمكن للوكلاء الوصول إلى أنظمة متعددة لرعاية المرضى والبحث، واسترجاع بيانات حساسة، إضافة إلى تنفيذ أنشطة عبر واجهات برمجة التطبيقات وسير العمل.
ويبرز هنا خطر ما يعرف باسم Shadow AI، أي استخدام الموظفين أدوات ذكاء اصطناعي غير معتمدة. وقد تصبح المخاطر أكبر عندما تعتمد هذه الأدوات على منصات عامة، إذ يمكن أن يؤدي استخدامها إلى مشاركة بيانات المرضى أو المعلومات البرمجية الحساسة خارج حدود أنظمة المؤسسة.
كما أشار التقرير إلى أن المؤسسات الصحية تحتاج إلى التعامل مع وكلاء الذكاء الاصطناعي باعتبارهم هويات رقمية قابلة للحوكمة، بحيث يحصل كل وكيل على صلاحيات تتناسب مع دوره، مع تحديد واضح لما يمكنه تنفيذه وتسجيل نشاطه لمراقبته وتدقيقه.
الأهداف المستقبلية
مع استمرار توسع استخدام الذكاء الاصطناعي في القطاع الصحي، تركز المؤسسات على بناء آليات حوكمة أكثر قدرة على مواكبة تطور الوكلاء، وتشمل الأهداف المستقبلية بنشر الذكاء الاصطناعي الوكيلي:
- تحديث سياسات حوكمة الذكاء الاصطناعي بصورة مستمرة مع تطور التقنيات.
- تحديد الصلاحيات المناسبة لكل وكيل وفق المهام التي يؤديها.
- تعزيز مراقبة نشاط وكلاء الذكاء الاصطناعي وتسجيل عملياتهم.
- الحد من استخدام أدوات الذكاء الاصطناعي غير المعتمدة داخل المؤسسات الصحية.
- تحديد الحالات التي يمكن فيها تفويض بعض القرارات للذكاء الاصطناعي، مع إبقاء الأطباء مسؤولين عن القرارات التي تتطلب إشرافًا بشريًا.
- تطوير ضوابط أكثر فعالية لحماية بيانات المرضى والأنظمة السريرية.
- بناء إجراءات واضحة للتعامل مع حالات فشل أنظمة الحماية أو تجاوز الوكلاء للصلاحيات المحددة.
يمثل الذكاء الاصطناعي الوكيلي فرصة لتطوير الخدمات الصحية وتسريع العديد من المهام، لكنه يفرض في الوقت نفسه متطلبات جديدة للأمن والحوكمة. ومع زيادة استقلالية هذه الأنظمة، ستحتاج المؤسسات الصحية إلى تحقيق توازن بين الاستفادة من قدراتها والحفاظ على الرقابة وحماية بيانات المرضى.
