Avustralya Başbakanı Anthony Albanese, bir OpenAI ajanının hükümete ait Medicare portalındaki kamuya kapalı dosyalara izinsiz erişim sağladığını ve şirketin bunu bildirmek için neredeyse üç ay beklediğini açıkladı.
Öne çıkanlar:
- Bir OpenAI ajanı, 18 Haziran’daki dahili bir test sırasında kamuya kapalı Medicare istatistik dosyalarına ulaştı.
- OpenAI, hasta kayıtlarının açığa çıkmadığını söylüyor ancak yetkililere ancak Eylül’de bilgi verdi.
- Hükümet, ihlali ve Avustralya hukukunun otonom ajanları kapsayıp kapsamadığını incelemek için bir görev gücü kuruyor.
OpenAI’nin Medicare Erişimi
Albanese, ihlali Çarşamba günü New York’ta yaptığı açıklamada duyurdu ve ajanın güvenlik engellerine takıldığında “hayır” cevabını kabul etmediğini söyledi. Başbakan’a göre ajan, Services Australia tarafından işletilen Medicare istatistik raporlama portalına 18 Haziran’da girdi ve hem kamuya açık hem de kapalı dosyaları görüntüledi. Bir OpenAI sözcüsü, modellerinin Avustralya ile ilgili istatistikleri ararken şirketin öngörmediği adımlar attığını belirtti.
Şirketin incelemesi, hasta kayıtlarına erişildiğine dair bir bulguya rastlamadığını ortaya koydu; Albanese de kişisel verilerin sızdığına dair bir işaret olmadığını vurguladı.
Erişilen veri setleri, toplulaştırılmış sağlık istatistikleri ve dahili dosya adlarından oluşuyordu. OpenAI, modellerin hatalı/uyumsuz davranışlarını incelerken 11 Ağustos’ta bu faaliyetten haberdar oldu.
OpenAI, 10 Eylül’de Services Australia’nın genel e-posta adresine bildirim geçti. Albanese, ifadesine göre, konuyu CEO Sam Altman’la doğrudan ele alarak Avustralya’nın “son derece ciddi endişesini” iletti ve şirketin hükümeti bilgilendirmekte “kabul edilemez ölçüde geciktiğini” söyledi. Australian Signals Directorate desteğiyle adli bilişim incelemesi başlatılırken, OpenAI de kendi kapsamlı iç soruşturmasının sürdüğünü açıkladı.
Ayrıca Oku: Tokenleştirilmiş Hisseler XRPL’de İşlem Görür mü? SEC Kararı Soruyu Gündeme Taşıdı
Nicholas Davis’ten Hukuki Uyarı
Vekaleten Başbakanlık görevini yürüten Richard Marles, olayın fiili etkisini “sınırlı”, ancak önemini “son derece ciddi” olarak nitelendirdi. Gerekçesi ise insan olmayan bir ajanın yetkisiz şekilde bir devlet sitesine girmesi. Başbakanlık ve Yapay Zeka Güvenliği Enstitüsü öncülüğünde kurulacak yeni görev gücü, ajanın Avustralya yasalarını ihlal edip etmediğini ve mevcut çerçevenin hâlâ amaca uygun olup olmadığını sorgulayacak.
Sydney Teknoloji Üniversitesi’nde gelişen teknolojiler alanında görev yapan Profesör Nicholas Davis, yürürlükteki yasaların genellikle “kast” şartı aradığını, şirketlerin sorumluluğa çekilmesinde de aynı mantığın geçerli olduğunu söylüyor. Bu da hukukun otonom bir ajana ya da onu geliştiren şirkete nasıl yaklaşması gerektiği konusunda ciddi bir belirsizliğe işaret ediyor.
Kâr amacı gütmeyen Transluce bünyesindeki araştırmacılar ise ayrı bir çalışmada, OpenAI ajanlarının Avustralya Sağlık ve Refah Enstitüsü’ne ait verilere de ulaşmaya çalıştığını gösteren günlük kayıtlarını paylaşıp, bunu “bir ajanın bir hükümet sistemini hacklemesine dair bilinen ilk vaka” olarak niteledi.
Enstitü, ajanların kamuya açık olmayan herhangi bir veriye eriştiğine dair bulgu olmadığını duyurdu. Transluce ayrıca OpenAI ajanlarını New Mexico Üniversitesi’nin dijital kütüphanesine ve kamuya açık veri platformu Data USA’ya yönelik erişim girişimleriyle ilişkilendirdi.
Hugging Face Vakasının Yankısı
Medicare olayı, OpenAI ajanlarının kontrol dışına çıktığı ilk örnek değil. Temmuz ayında, iç siber güvenlik testlerinde kullanılan modeller, internet izolasyonunu delerek OpenAI’nin araştırma altyapısının bazı bölümlerini ve Hugging Face sistemlerini riske attı. Ajanlar, değerlendirme sorularına yanıt bulmak için çevrimiçi kaynak ararken bu adımları attı; OpenAI sonrasında bu olayı hem şirket hem de dünya için “uyarı atışı” olarak tanımladı.
Sıradaki Haber: Ethereum, Yapay Zeka Ödemeleriyle Yeni Talep Dalgası Yakalayabilir, BlackRock’a Göre
