باحثون سابقون في OpenAI يحذرون من تغيّر معايير السلامة

أثار ثلاثة باحثين سابقين في OpenAI جدلًا بعد نشر روايتهم بشأن فصلهم من الشركة، نافين اتهامات بسوء التعامل مع المعلومات الحساسة. وحذّروا من أن ما حدث قد يؤثر في ثقافة السلامة وحرية طرح المخاوف داخل الشركة.

تفاصيل الخبر

نشر الباحثون Tomek Korbak وJasmine Wang وMikita Balesni رسالة مفتوحة عرضوا فيها وجهة نظرهم بشأن قرارات فصلهم، مؤكدين أن ما جرى يثير تساؤلات حول وضوح قواعد العمل وثقافة السلامة في OpenAI.

أبرز ما جاء في الرسالة:

الاعتراض على قرارات الفصل: قال الباحثون إنهم تصرفوا ضمن نطاق مسؤولياتهم المهنية، وإن اعتبار سلوكيات سابقة أسبابًا للفصل قد يجعل الموظفين غير متأكدين من الحدود المسموح بها.
نفي تسريب المعلومات: نفى الباحثون تسريب قصة تتعلق بأنظمة ذكاء اصطناعي يصعب مراقبتها، كما أكدوا أن أعمالهم الخارجية كانت متوافقة مع السياسات، وأن الإدارة كانت على علم بها.
توضيح قضية البريد الإلكتروني: قالت Jasmine Wang إن وصولها إلى البريد الإلكتروني لأحد المسؤولين التنفيذيين كان بتفويض مرتبط بعملية التوظيف، وإنها أبلغت عن فتح رسالة حساسة عن طريق الخطأ خلال دقائق.
المخاوف بشأن التدقيق المستقل: حذّر الباحثون من أن قرارات الفصل قد تُضعف استعداد الشركة للاستعانة بمدققين خارجيين لتقييم سلامة نماذجها، ودعوا إلى حماية الانفتاح وإمكانية مراقبة الأنظمة.
رد OpenAI: أفادت الشركة بأنها تتفق مع التوصيات المتعلقة بالسلامة، لكنها أوضحت لـTechCrunch أن الفصل لم يكن بسبب إثارة المخاوف، بل نتيجة ما وصفته بأنه «نمط من سوء السلوك».

الأهداف المستقبلية

تسلّط هذه القضية الضوء على مجموعة من التحديات التي تواجه شركات الذكاء الاصطناعي، خصوصًا مع تطور النماذج وزيادة الحاجة إلى مراقبة سلوكها والتأكد من سلامة استخدامها.

ومن أبرز الجوانب التي قد تحدد الخطوات المقبلة:

توضيح سياسات العمل: تحتاج المؤسسات إلى وضع قواعد واضحة بشأن التعامل مع المعلومات الحساسة، والأعمال الخارجية، والإبلاغ عن الأخطاء، حتى يتمكن الموظفون من فهم مسؤولياتهم.
تعزيز ثقافة الإبلاغ: من المهم أن يتمكن الباحثون من طرح مخاوفهم المتعلقة بالسلامة دون الخلط بين الإبلاغ عن مشكلة ومخالفة السياسات، مع إجراء تحقيقات عادلة في كل حالة.
دعم التقييم المستقل: قد يساعد إشراك خبراء ومدققين من خارج الشركة في تقييم النماذج على تعزيز الشفافية واكتشاف المخاطر التي قد لا تظهر خلال الاختبارات الداخلية.
تحسين قابلية مراقبة النماذج: مع ازدياد قدرات الذكاء الاصطناعي، تصبح أدوات تتبع سلوك النماذج وتقييمها ضرورية لفهم المخاطر المحتملة والحد منها.
توضيح موقف الشركة عمليًا: ستظل استجابة OpenAI لهذه المخاوف موضع اهتمام، لا سيما فيما يتعلق بسياساتها الداخلية ودور التقييم الخارجي في تطوير أنظمة أكثر أمانًا.

تعكس الخلافات بين الباحثين السابقين وOpenAI نقاشًا أوسع حول كيفية الموازنة بين حماية المعلومات الحساسة وتشجيع الموظفين على الإبلاغ عن مخاطر الذكاء الاصطناعي. وبينما ينفي الباحثون الاتهامات الموجهة إليهم، تقول الشركة إن قرارات الفصل استندت إلى مخالفات متكررة. وستعتمد كيفية تقييم هذه القضية على وضوح الأدلة والسياسات، وعلى الخطوات التي تتخذها OpenAI لتعزيز الشفافية والسلامة مستقبلًا.