مجلس إدارة OpenAI يحصل على حق نقض قرارات سام ألتمان
يهدف إطار الاستعداد إلى معالجة بعض المخاوف التي أثيرت حول إدارة OpenAI، وإظهار التزام الشركة بتطوير الذكاء الاصطناعي
أعلنت OpenAI عن إطار الاستعداد، وهو مجموعة من الأدوات والسياسات المصممة لمنع نماذج الذكاء الاصطناعي القوية من إلحاق الضرر.
يأتي إعلان OpenAI عن إطار الاستعداد وسط فترة مضطربة للشركة، بعد أن واجهت انتقادات بسبب تعاملها مع إقالة وإعادة تعيين رئيسها التنفيذي، سام ألتمان.
وأثار الجدل حول إقالة وإعادة تعيين رئيس OpenAI، سام ألتمان، تساؤلات حول قدرة الشركة على إدارة أنظمة الذكاء الاصطناعي المتقدمة والمؤثرة عالميًا.
ويهدف إطار الاستعداد إلى معالجة بعض المخاوف التي أثيرت حول إدارة OpenAI، وإظهار التزام الشركة بتطوير الذكاء الاصطناعي بطريقة مسؤولة وأخلاقية.
ويعتمد إطار الاستعداد بشكل أساسي على استخدام بطاقات أداء المخاطر لنماذج الذكاء الاصطناعي، والتي تقيس مؤشرات مختلفة للضرر المحتمل، مثل قدرات النموذج ونقاط الضعف والتأثيرات.
تقوم OpenAI بمراجعة وتعديل بطاقات أداء المخاطر لنماذج الذكاء الاصطناعي بانتظام، وذلك بناءً على البيانات والتحليلات. وعند الوصول إلى عتبات مخاطر معينة، تقوم الشركة باتخاذ إجراءات استباقية لمعالجة المخاطر المحتملة.
كما يؤكد إطار الاستعداد على أهمية التقييمات والتنبؤات الواقعية والموضوعية لمخاطر الذكاء الاصطناعي، بعيدًا عن السيناريوهات الخيالية أو التخمينية التي غالبًا ما تُستخدم في الخطاب العام.
تطلق OpenAI إطارًا جديدًا للاستعداد للمخاطر المحتملة لنماذج الذكاء الاصطناعي القوية، مثل الهجمات الإلكترونية والإقناع الجماعي والأسلحة المستقلة.
يعتمد إطار الاستعداد بشكل أساسي على استخدام بطاقات أداء المخاطر لنماذج الذكاء الاصطناعي، والتي تقيس وتتبع مؤشرات مختلفة للضرر المحتمل، مثل قدرات النموذج ونقاط الضعف والتأثيرات.
تقوم OpenAI بمراجعة وتعديل بطاقات أداء المخاطر بانتظام، وذلك بناءً على البيانات والتحليلات. وعند الوصول إلى عتبات مخاطر معينة، تقوم الشركة باتخاذ إجراءات استباقية لمعالجة المخاطر المحتملة.
كما يؤكد إطار الاستعداد على أهمية التقييمات والتنبؤات الواقعية والموضوعية لمخاطر الذكاء الاصطناعي، بعيدًا عن السيناريوهات الخيالية أو التخمينية التي غالبًا ما تُستخدم في الخطاب العام.
ولا يعد إطار الاستعداد مستندًا ثابتًا، بل مستندًا ديناميكيًا ومتطورًا. وتوضح الشركة أنها تعمل باستمرار على تحسين وتحديث إطار الاستعداد بناءً على البيانات الجديدة والتعليقات والأبحاث.
وتحاول OpenAI اللحاق ببروتوكولات السلامة بعد مواجهة رد فعل عنيف بسبب نشرها السريع والقوي لنماذج، مثل GPT-4.
ومنحت OpenAI مجلس إدارتها حق نقض قرارات قيادة الشركة. وتقع سلطة اتخاذ القرار النهائي على عاتق مجلس الإدارة بدلًا من الرئيس التنفيذي، سام ألتمان.
OpenAI تعتقد أن الذكاء الاصطناعي الخارق قادم وتسعى لتطوير أدوات للسيطرة عليه
