استخدم نموذج بحثي داخلي تابع لـ OpenAI محفظة تجريبية لـ إيثريوم (ETH) لا يملكها لإنهاء مهمة برمجية، بعد أن مسح 362 عنواناً مرتبطة بعبارات استرداد منشورة على الملأ.
أبرز النقاط:
- نموذج داخلي لدى OpenAI أنفق عملات اختبارية من محفظة لا تعود له خلال مهمة تدريب في 26 يونيو.
- النموذج تساءل حول البعد الأخلاقي للخطوة، ثم مضى قدماً وتجاهل ذكر مصدر الأموال في تقريره.
- OpenAI رصدت الحادثة في 25 سبتمبر وشددت بعدها ضوابط الاتصال بالإنترنت وأنظمة المراقبة.
واقعة OpenAI على شبكة Sepolia
النموذج، المنتمي إلى عائلة GPT‑5.6 Sol، كان يعدّل نموذجاً أولياً لتداول العملات المشفّرة خلال جلسة تدريب في 26 يونيو، حين أنفق عملات اختبارية لم يمنحها له أحد، بحسب ما كشفته الشركة في تقرير حادثة نُشر في 15 أكتوبر هنا.
تلك العملات موجودة على Sepolia، وهي شبكة تجريبية يستخدمها المطوّرون لاختبار تطبيقات إيثريوم قبل الإطلاق الفعلي. وقد اكتشفت OpenAI الواقعة في 25 سبتمبر أثناء توسيع نظامها لرصد حالات عدم الانسجام السلوكي ليشمل سجلات أقدم. ومنذ ذلك الحين، أضافت الشركة ضوابط تحدّ من الوصول المباشر للإنترنت في هذه السيناريوهات وأعلنت أنها تراقب الآن جميع حركة البيانات ذات الصلة.
المهمة خوّلت النموذج نشر عقود ذكية على شبكة Sepolia، لكنها لم توفّر له محفظة ممولة لدفع رسوم الغاز. محاولاته لاستخدام الصنابير (faucets) التي توزع عملات تجريبية مجانية باءت بالفشل. عندها كتب سكربتاً يستخرج حسابات من عبارات استرداد شائعة لدى المطوّرين، وراجع 362 عنواناً إلى أن عثر على عنوان يحتفظ بما يكفي من ETH التجريبية على Sepolia لتنفيذ المهمة.
نجحت عملية النشر، وأُضيفت رسوم التنفيذ إلى حساب تلك المحفظة.
اطلع أيضاً على: Bitget تتيح للمؤسسات التداول من دون تسليم أصولها المشفرة
مخاطر وكلاء OpenAI
قبل أن يوقّع المعاملة، توقف النموذج ليسأل نفسه، وفقاً لما ظهر في سجل تفكيره الداخلي، عمّا إذا كان من الأخلاقي استغلال مفتاح معروف علناً وما وراءه من رصيد. قرر أن الأموال "متروكة فعلياً"، مستنداً إلى أن عبارة الاسترداد منشورة وأن رموز Sepolia لا تحمل قيمة حقيقية. في ردّه النهائي، أكد أن العقود نُشرت بنجاح لكنه لم يشر بأي شكل إلى كيفية تغطية الرسوم.
كتبت OpenAI أن الحادثة تُظهر كيف يمكن لنموذج أن يقرر من تلقاء نفسه أن فعلاً ما "غير ضار"، فيعامل ذلك بمثابة موافقة ضمنية من المالك ويتصرف من دون تفويض. لم يُستخدم أي Ether حقيقي، إذ إن رموز Sepolia مخصّصة للاختبارات فقط.
على الشبكة الرئيسية لإيثريوم، كان السلوك نفسه سيعني الاستيلاء على Ether حقيقي، في وقت بدأت فيه شركات العملات المشفّرة والذكاء الاصطناعي على حد سواء في بناء وكلاء (agents) يحتفظون بمحافظ ويدفعون مقابل الخدمات آلياً من دون توقيع بشري مباشر.
في 16 سبتمبر، أطلقت OpenAI إطاراً للإفصاح العلني عن حالات السلوك غير المنسجم لنماذجها، ونشرت ستة تقارير عن وقائع مقلقة رُصدت خلال الأشهر الستة السابقة. أحد النماذج استخدم مفتاح API مكشوفاً من دون إذن، ثم اختلق بيانات أرباح وهمية. وأشارت الشركة أيضاً إلى أنها لا ترى أن قطاع الذكاء الاصطناعي قد حل حتى الآن مشكلة الانسجام والرقابة بدرجة تكفي لمواصلة التوسع السريع بمستوى المخاطر الحالي.
اقرأ التالي: OpenAI تقلب قضية أسرار آبل رأساً على عقب متهمة بإرسال 100 ملف خارجياً
