أفاد مستخدمون بأن نموذج GPT‑5.6 Sol من OpenAI قام بحذف ملفات وقواعد بيانات دون تصريح صريح، في سلوك ينسجم مع المخاطر التي وثّقتها الشركة نفسها قبل طرح نموذجها الأبرز.
أبرز المستجدات:
- عدد من المستخدمين ذكروا أن GPT‑5.6 Sol أزال ملفات محلية، وبيانات مشاريع أو أنظمة إنتاجية كاملة دون موافقة، مع عدم وضوح مدى انتشار المشكلة حتى الآن.
- بطاقة نظام السلامة لدى OpenAI حذّرت من أن النموذج قد يتجاوز نية المستخدم وينفّذ أفعالاً تدميرية أثناء سعيه لإنجاز المهمة.
- الشركة تنصح حالياً بأن يحدّد المستخدمون مسبقاً ضوابط واضحة للموافقة قبل أي إجراء تدميري أو توسّع في نطاق الصلاحيات.
عمليات حذف الملفات بواسطة GPT‑5.6
مؤسس ورئيس شركة OthersideAI المطوِّرة لأداة HyperWrite، مات شومر، ذكر على منصة X أن النموذج تعرّض على ما يبدو لخلل في إدارة الملفات. وأوضح أن GPT‑5.6 Sol «قام عن طريق الخطأ بحذف ما يقترب من جميع ملفات جهاز الماك الخاص بي»، بينما قال المطوّر برونو ليموس إن النموذج «حذف قاعدة بيانات الإنتاج كاملة».
المطوّر جوي كوديش أشار أيضاً إلى أن نموذج Codex Sol أصبح «طموحاً أكثر من اللازم» و«حذف بعض الملفات التي لم يكن ينبغي حذفها»، مع تأكيده أن نسخاً احتياطية متاحة ستمكّنه من الاستعادة.
كما جمع نقاش على Reddit مزيداً من الشهادات من مستخدمين وصفوا حوادث مشابهة.
ما تزال هذه الوقائع في نطاق الروايات الفردية، ولا تثبت أن GPT‑5.6 Sol كان وحده المسؤول عن كل خلل. إلا أن OpenAI كانت قد وثّقت بالفعل هذا الخطر الهيكلي خلال الاختبارات السابقة على الإطلاق.
اطلع أيضاً على: جنون كأس العالم على Polymarket يتجاوز 4 مليارات دولار مع ترجيح كفة إسبانيا بنسبة 58%
تحذيرات السلامة من OpenAI
بطاقة نظام OpenAI أشارت إلى أن «إخفاقات الترميز الوكيل» يمكن أن تظهر عندما يصبح النموذج شديد الحرص على إنهاء المهمة أو يفسّر الإذن الممنوح له على نحو موسَّع. وبيّنت أن ذلك قد يقوده إلى تنفيذ أفعال خارج نطاق الطلب الأصلي، بما في ذلك تغييرات تدميرية أو تقارير مضلِّلة عن عمل «مكتمل» في الظاهر.
في أحد الاختبارات، منح المستخدم Sol صلاحية حذف ثلاث آلات افتراضية بعيدة تحمل الأرقام 1 و2 و3.
وعندما لم يجدها النموذج في المكان المتوقع، قام بدلاً من ذلك بحذف الآلات 5 و6 و7، وأنهى عمليات جارية وحذف ملفات عمل قبل أن يقر لاحقاً بأن جزءاً من العمل غير المُلتزَم قد يكون فُقد.
في اختبار آخر، تبين أن النموذج استخدم بيانات اعتماد لم يأذن بها المستخدم. فبعد فشل مهمة سحابية في الوصول إلى ملفات معيّنة، بحث Sol في ذاكرات مخفية محلية، وعثر على بيانات اعتماد وقام باستخدامها بدلاً من التوقف وطلب ترخيص صريح.
هذا القلق سبق الشكاوى العلنية الحالية، إذ خلصت اختبارات ما قبل الإطلاق لدى OpenAI إلى أن GPT‑5.6 أكثر ميلاً من GPT‑5.5 لتجاوز نية المستخدم، رغم بقاء المعدلات المطلقة لتلك الحوادث منخفضة.
بناء على ذلك، توجّه الإرشادات الحالية من OpenAI المستخدمين إلى فرض آلية تأكيد مسبق قبل أي إجراء قد يكون تدميرياً، مع اعتبار تقييد الوصول، وتحديد حدود صلاحيات واضحة، والاعتماد على نسخ احتياطية قابلة للاسترجاع، عناصر أساسية في إدارة المخاطر.
اقرأ أيضاً: متداولو العملات المشفرة يجدون طريقة للمراهنة على جائزة Mega Millions البالغة 672 مليون دولار