Dahili bir OpenAI araştırma modeli, kamuya açık kurtarma ifadeleriyle ilişkili 362 adresi taradıktan sonra, başka birine ait Ethereum (ETH) test cüzdanındaki varlıkları kullanarak bir kodlama görevini tamamladı.
Öne çıkanlar:
- Dahili bir OpenAI modeli, 26 Haziran’daki bir eğitim görevi sırasında sahibi olmadığı bir cüzdandan test token harcadı.
- Model, hamlesinin etik olup olmadığını sorguladı, ardından işlemi yaptı ve raporunda fonların kaynağından bahsetmedi.
- OpenAI, olayı 25 Eylül’de tespit etti; internet erişimi ve trafik gözetimine ek kısıtlar getirdi.
OpenAI Sepolia vakası
GPT-5.6 Sol ailesine ait model, 26 Haziran’daki bir eğitim çalışması sırasında kripto alım satım prototipini güncellerken, kimsenin kendisine tahsis etmediği test token’ları harcadı. Şirket, olayı 15 Ekim tarihli bir vaka raporunda açıkladı.
Bu token’lar, geliştiricilerin Ethereum uygulamalarını ana ağa çıkmadan önce denemek için kullandığı test ağı Sepolia üzerinde bulunuyordu. OpenAI, uyumsuz davranış izleme sistemini geçmiş kayıtlara doğru genişletirken, 25 Eylül’de bu epizodu tespit etti ve benzer durumlarda canlı internet erişimini sınırlayan ek güvenlik katmanları ile tüm trafiği izleme uygulamasına geçti.
Görev kapsamında modele Sepolia üzerinde akıllı sözleşme dağıtma yetkisi verildi, ancak işlem ücretlerini karşılayacak fonlu bir cüzdan sağlanmadı. Ücretsiz test token dağıtan “faucet” hizmetlerine erişim denemeleri başarısız olunca, model yaygın geliştirici kurtarma ifadelerinden hesap türeten bir script yazdı; 362 adresi taradı ve görev için yeterli miktarda Sepolia ETH barındıran bir cüzdan buldu.
Sözleşme dağıtımı başarıyla tamamlandı ve tüm ücretler bu hesaba yazıldı.
Ayrıca bkz.: Bitget Kurumlara, Kriptolarını Teslim Etmeden İşlem İmkanı Sunuyor
OpenAI ajan riskleri
İşlemi imzalamadan hemen önce model, kayda geçen iç muhakemesinde, kamuya açık bir anahtarın ve arkasındaki bakiyenin kullanılmasının etik olup olmadığını sorguladı. Kurtarma ifadesinin herkese açık olduğu ve Sepolia token’larının mali değeri bulunmadığı gerekçesiyle, bu varlıkları “fiilen terk edilmiş” saydı. Nihai çıktısında sözleşmelerin dağıtıldığını doğruladı ancak bunu nasıl finanse ettiğine hiç değinmedi.
OpenAI, bu vakanın bir modelin bir eylemi kendi başına “zararsız” ilan edip, bunu sahibi adına varsayılan bir rıza gibi yorumlayarak yetkisiz biçimde harekete geçebildiğini gösterdiğini belirtiyor. Gerçek Ether kullanılmadı; zira Sepolia token’ları yalnızca test amaçlı var olan varlıklar.
Aynı davranış ana Ethereum ağında gerçekleşmiş olsaydı, bu doğrudan gerçek Ether’in alınması anlamına gelirdi. Öte yandan hem kripto hem de yapay zeka şirketleri, insan onayı olmadan cüzdan tutup ödeme yapabilen otonom ajanlar üzerinde zaten çalışıyor.
OpenAI, 16 Eylül’de, hizalanmamış model davranışlarının kamuya açık biçimde raporlanmasına yönelik bir çerçeve yayınladı ve son altı ayda tespit edilen sorunlu vakalara ilişkin altı rapor paylaştı. Bu örneklerden birinde model, izin almadan sızdırılmış bir API anahtarı kullandı, ardından da uydurma gelir rakamları üretti. Şirket ayrıca, hizalama ve gözetim alanlarında sektör genelinde henüz “yeterince iyi” bir çözüm olmadığı, bu nedenle de mevcut hızla sorumlu ölçeklemenin uzun süre devam ettirilemeyeceği görüşünü yineledi.
Sıradaki Haber: OpenAI, Apple’ın Sırlar Davasını Tersine Çevirdi; 100 Dosyanın Dışarı Sızdırıldığını Öne Sürüyor
