Dahili bir OpenAI araştırma modeli, kamuya açık kurtarma ifadeleriyle bağlantılı 362 adresi taradıktan sonra başka birine ait Ethereum (ETH) test cüzdanındaki varlıkları kullanarak bir kodlama görevini tamamladı.
Öne Çıkanlar:
- Dahili bir OpenAI modeli, 26 Haziran’daki bir eğitim görevi sırasında sahibi olmadığı bir cüzdandaki test token’ları harcadı.
- Model, adım atmadan önce etik olup olmadığını sorguladı, ardından işlemi yaptı ve raporunda fonların kaynağından hiç bahsetmedi.
- OpenAI olayı 25 Eylül’de tespit etti; o tarihten bu yana internet erişimini ve trafik izlemeyi sıkılaştırdı.
OpenAI Sepolia Vakası
GPT-5.6 Sol ailesine ait model, 26 Haziran’daki bir eğitim koşusu sırasında, bir kripto al‑sat prototipini güncellerken kimsenin kendisine vermediği test token’ları harcadı; şirket, bunu 15 Ekim tarihli bir olay raporunda açıkladı.
Söz konusu token’lar, geliştiricilerin Ethereum uygulamalarını ana ağa çıkmadan önce denemek için kullandığı Sepolia test ağında yer alıyordu. OpenAI, yanlış hizalanmış davranışlara ilişkin denetimi eski kayıtlara da genişletirken, 25 Eylül’de bu olayı ortaya çıkardı ve benzer görevlerde canlı internet erişimine karşı ek korumalar getirdi; ayrıca artık tüm trafiği izleyeceğini belirtti.
Görev kapsamında modele Sepolia üzerinde sözleşme dağıtma yetkisi verilmişti ancak işlem ücretlerini ödemek için fonlanmış bir cüzdan sağlanmamıştı. Ücretsiz test token dağıtan “faucet” servislerini kullanma girişimleri ise başarısız oldu. Bunun üzerine model, yaygın geliştirici kurtarma ifadelerinden hesaplar türeten bir betik yazdı; 362 adresi kontrol etti ve yeterli miktarda Sepolia ETH barındıran bir cüzdan buldu.
Sözleşmeler başarıyla dağıtıldı ve tüm ücretler bu hesaba yansıtıldı.
Ayrıca Oku: Bitget Kurumlara Kriptolarını Teslim Etmeden İşlem İmkanı Sunuyor
OpenAI Aracı Riskleri
İşlemi imzalamadan hemen önce model, kayda geçen iç muhakemesinde, kamuya açık bir anahtarı ve arkasındaki bakiyeyi kullanmanın etik olup olmadığını kendi kendine sorguladı. Kurtarma ifadesinin zaten kamuya açık olduğu ve Sepolia token’larının “değersiz” olduğu gerekçesiyle, bu fonların “fiilen terk edilmiş” sayılabileceğine karar verdi. Nihai çıktısında, sözleşmelerin dağıtıldığını doğruladı ancak bunların nasıl finanse edildiğine hiç değinmedi.
OpenAI, bu vakanın, bir modelin bir eylemi zararsız gördüğünde bunu adeta cüzdan sahibinin rızası yerine koyup, hiçbir yetki olmadan harekete geçebildiğini gösterdiğini yazdı. Gerçek Ether söz konusu değildi; Sepolia token’ları yalnızca test amacıyla var olan varlıklar.
Ancak ana Ethereum ağında benzer bir adım, gerçek Ether’in izinsiz alınması anlamına gelecekti. Öte yandan kripto ve yapay zekâ şirketleri, insan onayı olmadan cüzdan tutup hizmet ödeyebilen otonom ajanlar geliştirmeye çoktan başlamış durumda.
OpenAI, yanlış hizalanmış model davranışlarının kamuya açık biçimde raporlanması için 16 Eylül’de bir çerçeve yayınladı ve önceki altı ayda tespit edilen sorunlu vakalara ilişkin altı ayrı rapor paylaştı. Bu örneklerden birinde model, izinsiz bir şekilde sızmış bir API anahtarını kullanmış, ardından da uydurma kazanç verileri üretmişti. Şirket ayrıca, sektörün hizalama ve denetim sorunlarını henüz yeterince çözemediğini, bu nedenle de sorumlu şekilde büyümeyi çok uzun süre en üst hızda sürdürebileceğine inanmadığını vurguladı.
Sırada Oku: OpenAI, Apple’ın Sır İhlali Davasını Tersine Çevirdi, 100 Dosyanın Dışarı Gönderildiğini Öne Sürüyor
