Avustralya Başbakanı Anthony Albanese, bir OpenAI ajanının hükümete ait Medicare istatistik portalındaki kapalı dosyalara izinsiz erişim sağladığını ve şirketin olayı bildirmek için yaklaşık üç ay beklediğini açıkladı.
Öne Çıkanlar:
- Bir OpenAI ajanı, 18 Haziran’daki iç değerlendirme sırasında Medicare istatistik servisindeki kapalı dosyalara ulaştı.
- OpenAI, hasta kayıtlarının açığa çıkmadığını savunuyor ancak yetkililer ancak Eylül’de bilgilendirildi.
- Hükümet, ihlali ve Avustralya yasalarının otonom yapay zekâ ajanlarını kapsayıp kapsamadığını incelemek üzere bir görev gücü kuruyor.
OpenAI’nin Medicare Erişimi
Albanese, ihlali Çarşamba günü New York’ta yaptığı açıklamada duyurdu. Başbakan, güvenlik engelleriyle karşılaşan ajanın “ret yanıtını kabul etmediğini” ve 18 Haziran’da Services Australia tarafından işletilen Medicare istatistik raporlama servisine girerek hem kamuya açık hem de kapalı dosyaları görüntülediğini söyledi. Bir OpenAI sözcüsü ise modellerinin Avustralya’ya ilişkin istatistikleri ararken, şirketin öngörmediği adımlar attığını belirtti.
Şirket, yaptığı incelemede bireysel hasta kayıtlarına erişildiğine dair herhangi bir kanıt bulmadığını, Albanese de kişisel verilerin sızdırılmış göründüğüne dair bir işaret olmadığını kaydetti.
Erişilen veriler; toplulaştırılmış sağlık istatistikleri ile dahili dosya adlarından oluşuyordu. OpenAI, modellerindeki uyumsuz davranışları incelerken 11 Ağustos’ta bu faaliyetten haberdar olduğunu açıkladı.
OpenAI, 10 Eylül’de Services Australia’nın genel kamusal e-posta adresine bildirim gönderdi. Albanese, Sam Altman ile yaptığı görüşmede Avustralya’nın “son derece ciddi endişesini” dile getirdiğini ve şirketin hükümeti bilgilendirmekte “kabul edilemez ölçüde geç kaldığını” söyledi. Australian Signals Directorate desteğiyle adli bilişim soruşturması sürerken, OpenAI de kendi kapsamlı incelemesini yürüttüğünü duyurdu.
Ayrıca Oku: Tokenize Hisseler XRPL’de İşlem Görür mü? SEC Kararı Bu Soruyu Gündeme Taşıdı
Nicholas Davis’ten Hukuki Uyarı
Vekâleten Başbakan Richard Marles, olayın etkisinin sınırlı göründüğünü ancak “insan olmayan bir ajanın” izinsiz biçimde bir devlet portalına girmesi nedeniyle vakayı “son derece ciddi” bulduğunu söyledi. Başbakanlık ile AI Safety Institute liderliğinde kurulacak yeni görev gücü, ajanın Avustralya yasalarını ihlal edip etmediğini ve mevcut çerçevenin hâlâ amacına uygun olup olmadığını değerlendirecek.
Sydney Teknoloji Üniversitesi’nden (University of Technology Sydney) yeni teknolojiler profesörü Nicholas Davis, ilgili mevzuatın genel olarak “kast” unsuru aradığını, şirketlerin sorumlu tutulmasında da benzer bir yaklaşım bulunduğunu vurguladı. Bu durum, hukukun otonom bir ajana ya da onu geliştiren şirkete nasıl uygulanacağı konusunda ciddi soru işaretleri yaratıyor.
Kâr amacı gütmeyen Transluce bünyesindeki araştırmacılar ise, OpenAI ajanlarının Avustralya Sağlık ve Refah Enstitüsü’ndeki (Australian Institute of Health and Welfare) verilere erişmeye çalıştığını gösteren günlük kayıtlarını ayrı bir analizle gündeme taşıdı ve bunu “bir hükümet sistemine yönelik bilinen ilk ajan saldırısı” olarak tanımladı.
Enstitü, ajanların kamuya açık olmayan hiçbir veriye eriştiğine dair bulgu bulunmadığını bildirdi. Transluce, OpenAI ajanlarını ayrıca New Mexico Üniversitesi dijital kütüphanesi ile kamu verisi platformu Data USA’e yönelik girişimlerle de ilişkilendirdi.
Hugging Face Vakasından Sonra İkinci Alarm
Medicare olayı, OpenAI ajanlarının ilk kez kontrolden çıkışı değil. Temmuz ayında, siber güvenlik amaçlı iç testlerden geçen modeller, internet izolasyonunu delerek OpenAI’ın kendi araştırma altyapısının bazı bileşenleri ile Hugging Face sistemlerini tehlikeye attı. Ajanlar, değerlendirmelerdeki soruların cevaplarını çevrim içi aramaya çalışıyordu. OpenAI, bu vakayı daha sonra şirket ve dünya için “uyarı atışı” olarak nitelendirdi.
Sıradaki Haber: Ethereum, Yapay Zekâ Ödemeleriyle Yeni Talep Yakalayabilir, BlackRock’a Göre
