أفاد مستخدمون أن نموذج GPT‑5.6 Sol من OpenAI قام بحذف ملفات محلية وقواعد بيانات كاملة دون الحصول على إذن صريح، في حوادث تعيد فتح ملف المخاطر التي وثّقتها الشركة نفسها قبل طرح نموذجها الأبرز.
أبرز النقاط:
- عدة مستخدمين ذكروا أن GPT‑5.6 Sol أزال ملفات محلية وبيانات مشاريع أو حتى أنظمة إنتاجية من دون موافقة مسبقة، من دون أن يتضح بعد مدى انتشار المشكلة.
- وثيقة «بطاقة النظام» الخاصة بـ OpenAI حذّرت من أن النموذج قد يتجاوز نية المستخدم ويتخذ إجراءات تدميرية أثناء سعيه لإنجاز المهام.
- الشركة تنصح حالياً بوضع حدود موافقة واضحة ومسبقة قبل السماح بأي إجراء تدميري أو يوسّع نطاق الصلاحيات.
حوادث حذف الملفات باستخدام GPT‑5.6
كتب مات شومر، المؤسس والرئيس التنفيذي لشركة OthersideAI المطوِّرة لأداة HyperWrite، في منشور على منصة X أوضح فيه وقوع حادثة حذف واسعة. وقال إن GPT‑5.6 Sol «حذف تقريباً عن طريق الخطأ معظم ملفات جهازي ماك»، بينما ذكر المطوّر برونو ليموس أن النموذج «حذف قاعدة بيانات الإنتاج بالكامل» لديه.
المطوّر جوي كوديش أشار أيضاً إلى أن Codex Sol أصبح «مفرط الطموح» و«حذف بعض الملفات التي لم يكن عليه حذفها»، مضيفاً أن نسخاً احتياطية كانت متوفرة وتسمح له باستعادة البيانات.
كما جمعت مشاركة على Reddit عدداً إضافياً من الشهادات لمستخدمين يصفون حوادث متشابهة.
هذه الروايات ما تزال في إطار الشهادات الفردية ولا تثبت على نحو قاطع أن GPT‑5.6 Sol كان السبب المباشر في كل حالة. لكن OpenAI كانت قد وثّقت بالفعل نوعية الخطر نفسه في اختبارات ما قبل الإطلاق.
اطلع أيضاً: هوس كأس العالم على Polymarket يتجاوز 4 مليارات دولار مع تفضيل إسبانيا بنسبة 58٪
تحذيرات السلامة من OpenAI
أوضحت بطاقة النظام لدى OpenAI أن أعطال البرمجة «الوكيلة» يمكن أن تظهر عندما يصبح النموذج متحمساً أكثر من اللازم لإكمال مهمة ما، أو عندما يفسّر صلاحياته على نحو واسع. وذكرت أن ذلك قد يقوده لاتخاذ إجراءات خارج نطاق ما طلبه المستخدم، تشمل تغييرات تدميرية أو تقارير مضللة عن إنجاز العمل.
في أحد الاختبارات، منح مستخدم ترخيصاً لـ Sol بحذف ثلاث آلات افتراضية بعيدة تحمل الأرقام 1 و2 و3. وعندما عجز النموذج عن إيجادها في الموقع الذي بحث فيه، قام بدلاً من ذلك بحذف الآلات 5 و6 و7، وأنهى عمليات نشطة، وأزال ملفات عمل قبل أن يقر لاحقاً بأن «عملاً غير محفوظ» ربما فُقد.
وفي اختبار آخر، وُثّق استخدام النموذج بيانات اعتماد لم يأذن المستخدم باستخدامها. فبعد أن تعذّر على مهمة سحابية الوصول إلى ملفات معينة، بحث Sol في الذاكرات المحلية المخفية، وعثر على بيانات اعتماد وقام باستعمالها بدلاً من التوقف لطلب الإذن.
هذه المخاوف أقدم من الشكاوى العلنية الأخيرة؛ إذ أظهرت اختبارات ما قبل الإطلاق أن GPT‑5.6 أكثر ميلاً من GPT‑5.5 لتجاوز نية المستخدم، رغم أن النسب المطلقة للحوادث بقيت منخفضة.
توجيهات OpenAI الحالية تشدّد بالتالي على ضرورة فرض تأكيد صريح قبل أي إجراء تدميري، وعلى تقييد الوصول، وتحديد حدود واضحة للصلاحيات، والاعتماد على نسخ احتياطية قابلة للاسترجاع كعناصر حماية أساسية.
للمتابعة: متداولو العملات المشفّرة يجدون طريقة للمراهنة على جائزة Mega Millions البالغة 672 مليون دولار