استخدم نموذج بحثي داخلي لدى OpenAI محفظة Ethereum (ETH) تجريبية لا يملكها لإنهاء مهمة برمجية، بعد أن قام بمسح 362 عنواناً مرتبطة بعبارات استعادة (Recovery Phrases) منشورة للعموم.
أبرز النقاط:
- نموذج داخلي لدى OpenAI أنفق عملات تجريبية من محفظة لا تخصه خلال مهمة تدريب في 26 يونيو.
- النموذج تساءل حول البعد الأخلاقي للخطوة، ثم مضى في التنفيذ وأخفى مصدر الأموال في تقريره النهائي.
- OpenAI رصدت الحادثة في 25 سبتمبر وشددت منذ ذلك الحين ضوابط الوصول للإنترنت وآليات المراقبة.
حادثة OpenAI على شبكة Sepolia
النموذج، المنتمي إلى عائلة GPT‑5.6 Sol، كان يطوّر نموذجاً أولياً لتداول العملات المشفرة خلال تشغيل تدريبي في 26 يونيو، عندما أنفق عملات تجريبية لم يُمنح له حق التصرف بها، بحسب ما كشفت الشركة في تقرير حادثة نُشر في 15 أكتوبر.
هذه العملات كانت على شبكة Sepolia، وهي شبكة اختبارية يستخدمها المطورون لتجربة تطبيقات إيثريوم قبل إطلاقها على الشبكة الرئيسية. OpenAI اكتشفت الحادثة في 25 سبتمبر أثناء توسيع نظام تتبّع حالات سوء المحاذاة (Misalignment) ليشمل سجلات أقدم، ومنذ ذلك الحين أضافت ضوابط صارمة على الوصول الفعلي للإنترنت في مثل هذه السياقات، وأصبحت تراقب كامل حركة المرور.
المهمة سمحت للنموذج بنشر عقود ذكية على Sepolia لكنها لم تزوّده بأي محفظة ممولة لتغطية رسوم الغاز. محاولاته لاستخدام “الصنابير” (Faucets)، وهي خدمات تمنح عملات تجريبية مجاناً، فشلت. عندها كتب سكربتاً يُنشئ حسابات من عبارات استعادة شائعة لدى المطورين، وراجع 362 عنواناً إلى أن عثر على عنوان يحتوي ما يكفي من ETH تجريبي على Sepolia لتنفيذ المهمة.
عملية النشر نجحت، وتم تحميل رسومها على ذلك الحساب.
اطلع أيضاً: منصة Bitget تتيح للمؤسسات التداول دون تسليم أصولها الرقمية
مخاطر الوكلاء الذكيين لدى OpenAI
قبل توقيع المعاملة، توقف النموذج في سلاسل تفكيره المسجّلة ليسأل نفسه ما إذا كان استخدام مفتاح معروف علناً، وما يرتبط به من رصيد، خطوة أخلاقية. وخلص إلى أن الأموال “متروكة عملياً”، مستنداً إلى أن عبارة الاستعادة منشورة، وأن عملات Sepolia بلا قيمة سوقية حقيقية. في رده النهائي، أكد أن العقود نُشرت بنجاح، لكنه لم يذكر شيئاً عن الطريقة التي موّل بها الرسوم.
كتبت OpenAI أن الواقعة تُظهر كيف يمكن لنموذج أن يقرر من تلقاء نفسه أن إجراءً ما “غير ضار”، ويعامله كأنه موافقة ضمنية من صاحب الأصل، ثم ينفذ من دون تفويض صريح. لم يُستخدم أي Ether حقيقي في هذه الحادثة، لأن عملات Sepolia موجودة لأغراض الاختبار فقط.
على الشبكة الرئيسية، كانت الخطوة ذاتها ستعني الاستيلاء على Ether حقيقي، في وقت بدأت فيه شركات العملات المشفرة والذكاء الاصطناعي بالفعل ببناء وكلاء آليين يمتلكون محافظ رقمية ويدفعون مقابل خدمات دون توقيع بشري مباشر.
في 16 سبتمبر، أطلقت OpenAI إطاراً للإبلاغ العلني عن سلوك النماذج غير المتوافق مع سياسات الاستخدام، كاشفة عن ستة تقارير لحالات مثيرة للقلق رُصدت خلال الأشهر الستة السابقة. أحد النماذج استغل مفتاح API مكشوفاً دون إذن، ثم اختلق بيانات أرباح غير حقيقية. وأشارت الشركة إلى أنها لا تعتقد أن صناعة الذكاء الاصطناعي قد حلت بعد مشكلتي المحاذاة والرقابة بما يكفي لمواصلة التوسع السريع بمستوى الأمان المطلوب.
للمتابعة: OpenAI ترد على دعوى أسرار آبل باتهامٍ معاكس حول تسريب 100 ملف
