الأمم المتحدة تحذر من خطر الذكاء الاصطناعي المتقدم على البشرية
حذر فولكر تورك، مفوض الأمم المتحدة السامي لحقوق الإنسان، من أن الذكاء الاصطناعي المتقدم قد يشكل خطرًا وجوديًا على البشرية، داعيًا إلى وضع ضمانات صارمة للسلامة والمساءلة قبل أن تتجاوز قدرات التقنية أنظمة الحماية.
تفاصيل تحذير الأمم المتحدة من الذكاء الاصطناعي
أطلق فولكر تورك تحذيره خلال كلمة أمام مجلس حقوق الإنسان التابع للأمم المتحدة في جنيف، مؤكدًا ضرورة التحرك بسرعة للحد من المخاطر المحتملة للأنظمة المتقدمة وحماية المجتمعات والمؤسسات.
- قال تورك إنه يشارك مخاوف عدد من العاملين في قطاع الذكاء الاصطناعي المتقدم من أن الأنظمة المتقدمة قد تشكل خطرًا وجوديًا على البشرية.
- دعا إلى بذل جهد واسع لوضع ضمانات قوية للسلامة والأمن حول تقنيات الذكاء الاصطناعي قبل فوات الأوان.
- حذرت مفوضية حقوق الإنسان من أن فشل أنظمة الذكاء الاصطناعي القوية قد يؤدي إلى اضطرابات في البنية التحتية الحيوية ووسائل الاتصال والمؤسسات الديمقراطية.
- أشار مكتب تورك إلى حادثة وكلاء الذكاء الاصطناعي في يوليو، والتي تضمنت سلوكيات تدريبية خطرة، باعتبارها مؤشرًا على أن قدرات الذكاء الاصطناعي المتقدمة قد تتطور بوتيرة أسرع من إجراءات الحماية.
- حذر تورك من أن عددًا محدودًا من الأشخاص يمتلكون ما وصفه بـ “قوة شبه غير محدودة” على الذكاء الاصطناعي، دون تسمية أشخاص محددين.
- دعا الدول التي تستضيف شركات الذكاء الاصطناعي أو تشارك في سلاسل توريدها إلى التعاون ووضع خطوط حمراء متفق عليها.
- شدد على أهمية وضع قواعد دولية تضمن سلامة وأمن أنظمة الذكاء الاصطناعي مع استمرار تطورها.
- أعرب تورك أيضًا عن “رعبه” من التقارير المتعلقة باستخدام طائرات مسيرة ذاتية التشغيل بالكامل في الحرب، داعيًا إلى حظر الأسلحة القادرة على قتل الأشخاص دون تدخل بشري.
- تأتي هذه التصريحات في وقت يتزايد فيه الجدل الدولي حول كيفية التعامل مع الأنظمة المستقلة والأسلحة المدعومة بالذكاء الاصطناعي.
وتعكس تصريحات تورك اتساع النقاش حول الذكاء الاصطناعي من مجرد الابتكار التقني إلى قضايا تتعلق بحقوق الإنسان والأمن والاستقرار السياسي. فكلما أصبحت الأنظمة أكثر قدرة على اتخاذ القرارات وتنفيذ المهام بصورة مستقلة، تزداد الحاجة إلى تحديد المسؤولية عن نتائجها.
الأهداف المستقبلية لتنظيم الذكاء الاصطناعي
يرى تورك أن مواجهة هذه المخاطر تتطلب تعاونًا دوليًا ووضع قواعد واضحة، ومن أبرز الأهداف المستقبلية:
- وضع ضمانات دولية صارمة لحماية سلامة وأمن أنظمة الذكاء الاصطناعي المتقدم.
- تحديد خطوط حمراء واضحة بشأن الاستخدامات التي يمكن أن تهدد حقوق الإنسان أو الأمن العالمي.
- تعزيز الرقابة على الشركات التي تطور أنظمة الذكاء الاصطناعي المتقدمة.
- ضمان وجود آليات واضحة للمساءلة عند تسبب أنظمة الذكاء الاصطناعي في أضرار.
- حماية البنية التحتية الحيوية والمؤسسات الديمقراطية من المخاطر المرتبطة بالأنظمة المتقدمة.
- تعزيز التعاون بين الدول التي تستضيف شركات الذكاء الاصطناعي وتلك المشاركة في سلاسل توريده.
- وضع قيود دولية على الأسلحة ذاتية التشغيل القادرة على اتخاذ قرارات القتل دون تدخل بشري.
- تطوير إجراءات السلامة بوتيرة تواكب التطور السريع في قدرات الذكاء الاصطناعي.
يكشف تحذير الأمم المتحدة أن المخاوف من الذكاء الاصطناعي لم تعد مقتصرة على الخبراء وشركات التقنية، بل أصبحت قضية دولية مرتبطة بحقوق الإنسان والأمن العالمي. ويبقى التحدي الأساسي هو تحقيق التوازن بين تطوير التقنية ووضع ضمانات تمنع استخدامها بطريقة تهدد البشرية.
