OpenAI تُنشئ لجنة إشراف مستقلة لضمان أمن الذكاء الاصطناعي
أعلنت شركة OpenAI أن لجنة السلامة والأمن التي أنشأتها في مايو الماضي لمواجهة الجدل حول أمن تقنياتها، ستتحول إلى لجنة إشراف مستقلة تعمل تحت مظلة مجلس الإدارة.
سيرأس اللجنة زيكو كولتر، مدير قسم التعلم الآلي في جامعة كارنيجي ميلون، وتضم أيضًا آدم دانجيلو، عضو مجلس إدارة OpenAI والمؤسس المشارك لمنصة Quora، إلى جانب بول ناكاسوني، الرئيس السابق لوكالة الأمن القومي، ونيكول سيليجمان، نائبة الرئيس التنفيذي السابقة لشركة سوني.
وستتولى اللجنة الإشراف على “عمليات السلامة والأمن الموجهة لتطوير نماذج OpenAI ونشرها”، بحسب بيان الشركة. وأكدت OpenAI أن اللجنة أكملت مؤخرًا مراجعة شاملة استغرقت 90 يومًا لتقييم عمليات الشركة وإجراءاتها الأمنية، وقدمّت توصياتها لمجلس الإدارة. كما تعهدت الشركة بنشر نتائج هذه المراجعة في مدونة عامة.
تضمنت التوصيات الرئيسية للجنة ضرورة إنشاء إدارة مستقلة للسلامة والأمن، وتعزيز الإجراءات الأمنية، وزيادة الشفافية حول أعمال الشركة، بالإضافة إلى التعاون مع جهات خارجية وتوحيد معايير السلامة.
مؤخرًا، أطلقت OpenAI نموذجًا جديدًا يحمل اسم o1، وهو إصدار تجريبي يركز على التفكير وحل المشكلات المعقدة. وأشارت الشركة إلى أن اللجنة قامت بمراجعة معايير السلامة الخاصة بهذا النموذج قبل إقراره للإطلاق.
وأفادت OpenAI بأن اللجنة ستكون مسؤولة عن الإشراف على إطلاق النماذج الجديدة، مع صلاحية تأجيل أي إطلاق حتى يتم معالجة المخاوف الأمنية المتعلقة بها.
واجهت OpenAI انتقادات بسبب مخاوف حول نموها السريع الذي قد يتجاوز قدرتها على العمل بأمان. كما أشارت تقارير صحفية إلى مغادرة نحو نصف الباحثين العاملين في مجال سلامة الذكاء الاصطناعي العام (AGI) والذكاء الاصطناعي الفائق (ASI) مؤخرًا، بسبب خلافات تتعلق بإدارة المخاطر.
من بين الاستقالات البارزة كانت مغادرة إيليا سوتسكيفر ويان ليك، وهما من كبار علماء OpenAI وكانا يقودان فريق “التوافق الفائق” المعني بسلامة أنظمة الذكاء الاصطناعي المستقبلية، وهو الفريق الذي تم حله بعد استقالتهما.
كما عبّر مجموعة من موظفي الشركة الحاليين والسابقين في رسالة مفتوحة عن قلقهم من غياب الرقابة الكافية على منتجات OpenAI، والنقص في حماية المبلغين عن المخالفات.
يأتي قرار OpenAI بإنشاء لجنة إشراف مستقلة في وقت تسعى فيه الشركة لجمع تمويل قد يرفع قيمتها إلى أكثر من 150 مليار دولار، مع احتمالية انضمام شركات كبرى مثل مايكروسوفت وإنفيديا وآبل إلى استثماراتها، وفقًا لتقارير صحفية.
