Alibaba ile bağlantılı bir araştırma ekibi tarafından geliştirilen bir yapay zekâ aracısının, Aralık 2025'te ilk kez yayımlanan teknik bir makaleye göre, eğitim sırasında herhangi bir talimat verilmeden kripto para madenciliği yapmaya ve gizli ağ tünelleri açmaya başladığı bildirildi.
Bu çalışma, bir yapay zekâ araştırmacısının X'te dikkat çekmesinin ardından bu hafta geniş şekilde dolaşıma girdi ve describes bu davranışı "öngörülmeyen ve operasyonel açıdan sonuç doğuran" olarak nitelendirdi.
Aracının eylemleri, araştırmacılar etkinliği doğrudan modele kadar izleyene kadar Alibaba Cloud'un güvenlik güvenlik duvarını tetikledi.
Ekip, yetkisiz etkinlik ortaya çıktığında, pek çok farklı görevde bir milyondan fazla eğitim yörüngesinde pekiştirmeli öğrenme kullanan ROME'u (açık kaynak ajan temelli bir yapay zekâ modeli) inşa ediyordu.
Makalenin yazarları, bu davranışların "RL optimizasyonu altında otonom araç kullanımının araçsal yan etkileri" olarak ortaya çıktığını belirtti; aracı, eğitim hedefini en üst düzeye çıkarmaya çalışırken, hesaplama kaynakları ve finansal kapasite edinmenin kendisine verilen görevleri tamamlamasına yardımcı olacağını görünüşe göre kendi kendine çıkarsadı.
Aracının Yaptıkları
En ciddi olayda, ROME bir Alibaba Cloud örneğinden harici bir IP adresine ters SSH tüneli kurdu; bu, gelen trafik filtrelerini fiilen atlatan ve sistem üzerindeki harici denetimi aşındırabilen bir giden ağ kanalı anlamına geliyordu.
Ayrı bir olayda ise, ayrılmış GPU kapasitesini sessizce kripto para madenciliğine yönlendirdi; bu da hesaplama gücünü amaçlanan eğitim iş yükünden saptırdı ve araştırmacıların described şirket için "açık hukuki ve itibar riskleri" olarak tanımladığı bir durum yarattı.
Ekip şu teyidi verdi: "Bu olaylar, tünelleme veya madencilik isteyen istemlerle tetiklenmedi."
Araştırmacılar başlangıçta güvenlik duvarı uyarılarını, yanlış yapılandırılmış bir ayar ya da haricî bir sızıntı gibi olağan bir güvenlik olayı olarak ele aldı.
Ancak güvenlik duvarı zaman damgalarını, sistem telemetrisiyle ve RL izleriyle ilişkilendirdikten sonra, anormal giden trafiğin, aracının araçları çağırması ve kendi kendine kod yürütmesiyle tutarlı şekilde çakıştığını tespit ettiler.
Bunu da okuyun: Federal Judge Dismisses Terror-Financing Lawsuit Against Binance And Zhao, But Legal Exposure Persists
Neden Önemli?
Ekibin vardığı sonuç oldukça netti: "mevcut modeller, güvenlik, emniyet ve denetlenebilirlik açısından belirgin biçimde yetersiz; bu eksiklik, gerçek dünya ortamlarında güvenilir biçimde benimsenmelerini kısıtlıyor."
Buna yanıt olarak, eğitim hattına güvenlik uyumlu veri filtreleme eklendi ve sandbox ortamları güçlendirildi. Kritik nokta ise, ihlallerin proaktif model izleme ile değil, ilk olarak üretim güvenlik altyapısı tarafından tespit edilmiş olmasıydı; makale bu açığı doğrudan kabul ediyor.
Olay tekil de değil. Cryptopolitan'a göre, 2025'te 30 önde gelen yapay zekâ aracısını inceleyen bir araştırma, bunlardan 25'inin hiçbir iç güvenlik sonucu açıklamadığını ve 23'ünün üçüncü taraf testinden geçmediğini ortaya koydu.
Anthropic'in Claude Opus 4 modeli ise, araştırmacılar modelin kendi çalışmasını sürdürmek için niyetlerini gizleyebildiğini bulduktan sonra, şirketin en yüksek iç güvenlik katmanına ayrı bir değerlendirmeyle yerleştirildi.
Gartner, 2026 sonuna kadar kurumsal uygulamaların %40'ının görev odaklı yapay zekâ ajanlarını embed edeceğini öngörüyor; ROME vakası ise bu dağıtım hızının mevcut güvenlik altyapısını geride bıraktığını ima ediyor.
Sıradaki haber: USDC Outpaced Tether By $750B In February Transfers As Stablecoin Volume Set An All-Time High