بول كريستيانو ينضم إلى مجلس إدارة OpenAI Foundation
أعلنت OpenAI تعيين بول كريستيانو في مجلس إدارة OpenAI Foundation ولجنة السلامة والأمن، مستفيدة من خبرته الطويلة في أبحاث مواءمة الذكاء الاصطناعي وتقييم مخاطر النماذج المتقدمة.
تفاصيل الخبر
يمثل انضمام كريستيانو لإدارة OpenAI Foundation خطوة مهمة لتعزيز خبرات السلامة والحوكمة داخل المؤسسة، خصوصاً مع تسارع قدرات نماذج الذكاء الاصطناعي وتزايد التحديات المرتبطة بالأنظمة المتقدمة.
- سيصبح Paul Christiano عضواً في مجلس إدارة OpenAI Foundation.
- سينضم أيضاً إلى لجنة السلامة والأمن (SSC) التابعة لمجلس إدارة المؤسسة.
- سيعمل كريستيانو كذلك مراقباً غير مصوّت في مجلس إدارة OpenAI Group PBC.
- يتمتع بخبرة حكومية من خلال عمله مستشاراً تقنياً أول في مركز معايير وابتكار الذكاء الاصطناعي (CAISI) التابع لـ NIST.
- شارك خلال عمله الحكومي في تقييم نماذج الذكاء الاصطناعي الرائدة، بما في ذلك القدرات التي قد تكون لها تداعيات على الأمن القومي.
- أسس كريستيانو Alignment Research Center (ARC)، وهي مؤسسة بحثية غير ربحية تركز على مواءمة أنظمة الذكاء الاصطناعي المتقدمة مع مصالح البشر.
- قاد أبحاث المواءمة في OpenAI بين عامي 2017 و2021، وساهم في أعمال مبكرة ومهمة مرتبطة بتقنية RLHF.
- ترى OpenAI أن خبرته التقنية والحكومية ستضيف منظوراً مهماً إلى قرارات الحوكمة والسلامة.
- ستتولى لجنة السلامة والأمن التي ينضم إليها كريستيانو الإشراف على ممارسات السلامة والأمن في OpenAI، بما يشمل OpenAI Group PBC.
- وبحكم منصبه الحكومي الحالي، لن يشارك كريستيانو في المسائل المتعلقة بـOpenAI أو في تقييمات النماذج أثناء عمله في CAISI.
ويأتي هذا التعيين داخل OpenAI Foundation في وقت أصبحت فيه سلامة النماذج المتقدمة ومواءمتها من أبرز القضايا التي تواجه شركات الذكاء الاصطناعي. وتؤكد OpenAI أن وجود أشخاص قادرين على تحدي الافتراضات السائدة وتعزيز الأدلة والضمانات يمكن أن يساعد في تحسين عملية اتخاذ القرارات المتعلقة بالأنظمة الأكثر قدرة.
الأهداف المستقبلية
من المتوقع أن يساهم انضمام كريستيانو إلى OpenAI Foundation في تعزيز جهود OpenAI في عدد من المجالات المرتبطة بالسلامة والحوكمة، ومنها:
- تطوير آليات أكثر قوة لتقييم مخاطر نماذج الذكاء الاصطناعي المتقدمة.
- تعزيز أبحاث مواءمة الذكاء الاصطناعي والتأكد من توافق الأنظمة مع المصالح البشرية.
- تحسين معايير السلامة والأمن قبل نشر النماذج ذات القدرات العالية.
- دعم قرارات الحوكمة بالخبرات التقنية والأبحاث المستقلة.
- دراسة المخاطر المحتملة المرتبطة بتطور قدرات الذكاء الاصطناعي.
- تعزيز المساءلة والضمانات المتعلقة بتطوير ونشر الأنظمة المتقدمة.
- الاستفادة من الخبرات الحكومية في وضع معايير أكثر صرامة لتقييم النماذج الرائدة.
يعكس تعيين بول كريستيانو اهتمام OpenAI المتزايد بدمج الخبرات التقنية المتخصصة في قرارات السلامة والحوكمة. ومع استمرار تطور قدرات الذكاء الاصطناعي، يمكن أن تلعب خبرته في المواءمة وتقييم المخاطر دوراً مهماً في توجيه القرارات المتعلقة بالأنظمة المستقبلية.
