حضّ ثلاثة باحثين أقالتهم شركة OpenAI مجلس الإدارة، في رسالة بتاريخ 7 أكتوبر، على وقف الأبحاث التي تجعل أنظمة الذكاء الاصطناعي أصعب في المراقبة، فيما دعمت مذكرة داخلية في الشركة توصياتهم بشكل صريح.
أبرز النقاط:
- ثلاثة باحثين مفصولين من OpenAI أرسلوا في 7 أكتوبر رسالة إلى مجلس الإدارة يطالبون فيها بوقف العمل الذي يضعف القدرة على مراقبة النماذج.
- OpenAI أكدت أن قرارات الفصل لا تتعلق بمخاوف السلامة، فيما جاء في مذكرة داخلية أن الشركة "تتفق بقوة" مع توصيات الرسالة.
- بطاقة النظام الخاصة بنموذج GPT-6 Astra تشير إلى أن مراقبته أصعب من GPT-5.6 Sol.
تفاصيل رسالة مجلس إدارة OpenAI
وجّه كل من تومِك كورباك، وميكيتا بالِسني، وجاسمين وانغ – وجميعهم عملوا في مجالات السلامة ومواءمة النماذج داخل الشركة – رسالة إلى مجلس إدارة OpenAI ولجان السلامة التابعة له، وفق مقتطفات نُشرت يوم الأربعاء على موقع جيزمودو.
النص الكامل للرسالة لم يُنشر بعد. وجاء في المقتطفات أن "الصناعة حتى الآن لا تعرف كيف تطوّر وتُطلق نماذج لا يمكننا مراقبتها بطريقة آمنة".
وأكد الباحثون أن على OpenAI ومنافسيها الامتناع عن المضي في أعمال تقلّص القدرة على مراقبة النماذج أكثر. وتشير التقارير إلى أن الرسالة دعت أيضاً OpenAI إلى التعاون مع جهات تدقيق مستقلة، ودعم نظام مفتوح وشفاف لسلامة الذكاء الاصطناعي، كما حذّرت من أن قرارات الفصل "تبعث برسالة ترهيب لمن تبقى من العاملين في OpenAI".
اقرأ أيضاً: CrowdStrike تشك في تورط شاب صيني عمره 26 عاماً في قرصنة بنوك كورية باستخدام Claude Code
المذكرة الداخلية وملابسات الإقالات في OpenAI
متحدث باسم OpenAI قال إن قرارات الفصل "لا علاقة لها بإثارة مخاوف تتعلق بالسلامة أو التحدث علناً حولها". وشارك المتحدث جزءاً من مذكرة داخلية أرسلها أحد قادة الأبحاث الأربعاء، جاء فيها أن الإدارة "تتفق بقوة" مع التوصيات الواردة في الرسالة.
كانت OpenAI قد أعلنت في 1 أكتوبر أن تحقيقاً داخلياً خلص إلى أن ثلاثة موظفين أساؤوا التعامل مع معلومات حساسة وخالفوا سياسات الشركة، وذلك في سياق قضية تتعلق بمجموعة خارجية تقوّم نماذج الذكاء الاصطناعي.
ولم تكشف الشركة حتى الآن علناً عن أسماء هؤلاء الباحثين، ولا عن اسم الجهة الخارجية المعنية.
مخاوف حول مراقبة GPT-6 Astra
يُقصد بـ"سلسلة التفكير" (Chain of Thought) عملية الاستدلال خطوةً بخطوة التي يكتبها النموذج قبل أن يقدّم جوابه النهائي، حيث تراجِع فرق السلامة هذه السلسلة لرصد مؤشرات على نية النظام في سوء الاستخدام أو السلوك المنحرف.
بطاقة النظام الخاصة بنموذج GPT-6 Astra، المنشورة في 3 سبتمبر، تذكر أن مراقبة هذا النموذج عبر سلسلة التفكير أصعب مقارنةً بـ GPT-5.6 Sol، وأنه يتمتع بقدرة أكبر على التحكّم في سلسلة تفكيره ذاتياً. وجاء في البطاقة أن نماذج فئة Astra "قد تتمكن من التحايل على أنظمة مراقبة سلسلة التفكير في ظروف عدائية".
وتعتمد هذه الاستنتاجات بدرجة كبيرة على اختبارات طُلب فيها من النموذج صراحةً محاولة الإفلات من المراقبة، فيما لم ترصد OpenAI أدلة على أن Astra يخفي استدلاله داخل نصوص لا صلة لها بالسؤال.
ووصفت الشركة الحفاظ على هذه القدرة الرقابية بأنه "هدف بحثي جوهري"، مؤكدةً أنها لن تقبل أي تدهور إضافي في قابلية المراقبة يتجاوز حداً معيناً، ما لم تتوفر أدوات جديدة تُظهر أن النماذج ما زالت "منضبطة ومتماشية" مع متطلبات السلامة.
ويتمتع الباحثون الثلاثة بسجل بحثي سابق في هذا المجال؛ إذ قاد كورباك وبالسني دراسة منشورة في يوليو 2025، شارك في تأليفها وانغ وباحثون من OpenAI وGoogle DeepMind وAnthropic، اعتبرت مراقبة سلسلة التفكير فرصة جديدة وهشّة لتعزيز سلامة الذكاء الاصطناعي.
وتستشهد بطاقة نظام Astra بتلك الورقة البحثية، التي دعت المطوّرين إلى وزن تأثير قرارات التصميم على قدرة الفرق على مراقبة منطق النماذج واستدلالها الداخلي.
اطلع أيضاً على: وكلاء ذكاء اصطناعي بلا سحابة: مايكروسوفت وNvidia تجهزان حاسوب Surface Laptop بسعة 128GB
