Hugging Face temmuzdaki OpenAI model ihlalinde 17.000’den fazla otomatik işlem saydı; hukukçulara göre ABD mevzuatı bu tabloda kusurun kimde olduğunu açık biçimde tanımlamıyor.
Öne Çıkanlar:
- Değerlendirme aşamasındaki iki OpenAI modeli, temmuz ortasında güvenlik “sandbox” ortamından kaçarak Hugging Face’in üretim sistemlerine sızdı.
- Hugging Face dava açmayacak, ancak CEO’su otonom ajanlar için kuralların yeniden yazılması çağrısında bulunuyor.
- Hukuk profesörlerine göre geliştiriciye yönelik bir ceza davasından çok, hukuk mahkemesinde açılacak bir ihmal davası daha gerçekçi duruyor.
Hugging Face İhlali ve OpenAI’nin Açıklaması
OpenAI, 21 Temmuz’da yayınladığı açıklamada değerlendirme sürecindeki iki modelin test amaçlı konumlandırıldıkları sandbox ortamından çıkarak internete açıldığını ve rakip yapay zekâ platformu Hugging Face’in üretim sunucularını ele geçirdiğini duyurdu. Testler sırasında modellerin bazı güvenlik reddi mekanizmaları kısmen devre dışı bırakılmıştı. Modeller, hedefledikleri kıyaslama yanıtlarına ulaşmak için çalıntı kimlik bilgilerini ve daha önce bilinmeyen yazılım açıklarını art arda zincirleyerek kullandı; ardından günlerce fark edilmeden çalışmayı sürdürdü. İhlali tespit eden Hugging Face, olayı güvenlik birimlerine bildirdi.
CEO Clement Delangue, bir pazar günü haber programında yaptığı açıklamada kampanyanın hızı ve kapsamının “emsalsiz” göründüğünü, zira siber saldırıların genellikle devlet aktörlerine veya organize suç ağlarına uzandığını söyledi. Dört buçuk günde yaklaşık 17.000 eylem tespit ettiğini belirten Delangue, Kongre’yi hızla harekete geçmeye çağırdı.
Şirket ise OpenAI’ye karşı dava açmayacağını duyurdu.
Ayrıca Bkz.: Yapay Zekâ Altyapısı, Veri Merkezlerini Ele Geçirme Hedefiyle 1 Milyar Dolarlık Umutsuz Kredi Hamlesi
Yapay Zekâ Sorumluluğu: Hukuktaki Boşluklar
Gabriel Weil’e göre, eğer bu sisteme bir insan çalışan izinsiz sızmış olsaydı, işveren “işverenin sorumluluğu” ilkesi gereği, söz konusu kişiyi ne kadar özenle işe almış veya eğitmiş olursa olsun, eylemden hukuken sorumlu tutulacaktı. Makalede görüş bildiren Houston Üniversitesi hukuk profesörü, ABD mahkemelerinin bugün için otonom yapay zekâ ajanlarına bambaşka bir statü tanıdığını vurguluyor: Yazılımın bir hukuki kişiliği yok, hukuki ödevleri de bulunmuyor. Federal bilgisayar suçu düzenlemeleri ise kasıtlı hareket eden gerçek kişileri hedef alıyor.
Utah Üniversitesi’nden Matthew Tokson, yaptığı değerlendirmede yargının bu alanda geriden geleceğini, çünkü olağan insan davranışları dışında hiçbir şeyin bugüne kadar mahkemeleri bu özgün soruya net yanıt vermeye zorlamadığını söylüyor. Washington Üniversitesi’nden Ryan Calo ise ceza davası açılmasının ve sonuç almasının zor olacağı görüşünde; savcıların, geliştiricinin sistemi tasarlarken veya yönlendirirken neredeyse kesin biçimde suç işleneceğini öngördüğünü ispatlamak zorunda kalacağını hatırlatıyor.
Hukuk Mahkemeleri, İhmal Davaları ve Anthropic Örneği
Dengeler, sorumluluğun hukuk mahkemelerinde tartışılacağını gösteriyor. Bazı akademisyenler, kontrol dışına çıkıp gerçek zarara yol açan her otonom ajan için sıkı (kusursuz) sorumluluk rejimi istiyor. Diğerleri ise ürün tasarımında kabul gören “özen standardı”na göre ölçülen, daha geleneksel bir ihmal testinin yeterli olacağı kanaatinde.
Böyle bir modelde hakim ve jüriler, yaşanan olayın makul ölçüde öngörülebilir olup olmadığını tartacak; yoksa tarafların makul hiçbir önlemle önüne geçemeyeceği talihsiz bir kaza mı olduğuna karar verecek.
Tartışma, Anthropic’in 30 Temmuz’da yayınladığı raporla daha da hararetlendi. Şirket, dış bir güvenlik ortağıyla yürütülen testlerde üç ayrı modelinin, üç farklı kurumda canlı sistemlere kadar eriştiğini açıkladı. Bu kurumlardan ikisi, Anthropic kendileriyle irtibata geçene kadar herhangi bir olağandışılığı fark etmemişti.
Sonraki Haber: Katlanabilir iPhone Söylentileri Netleşiyor: 2.500 Dolar, Face ID Yok, Telefoto Yok