İngiltere Merkez Bankası Başkanı Andrew Bailey, yapay zekâ (YZ) alanında ayrıntılı ve sıkı test süreçlerinin, resmî regülasyonlardan önce gelmesi gerektiğini, buna paralel olarak da riskler arttıkça otoritelerin müdahale imkânını elinde tutmasının şart olduğunu söylüyor.
Öne Çıkan Başlıklar:
- Bailey, YZ risklerinin büyüdüğünü kabul ediyor; ancak yasa ve düzenleme yazılmadan önce sistemlerin nerede kırılganlaştığının tespit edilmesi gerektiğini savunuyor.
- Hem devreye almadan önce hem de sonrasında kapsamlı testler yapılmasını, bunun yanında net güvenlik önlemleri ve inandırıcı insan müdahale noktaları oluşturulmasını istiyor.
- Açıklamaları, büyük YZ şirketlerinin ve ABD hükümetinin gönüllü önlemler, daha yavaş geliştirme ve gelecekteki düzenlemeler üzerine tartıştığı bir döneme denk geliyor.
Bailey'nin YZ Testi Yaklaşımı
Bailey, yaptığı açıklamada YZ risklerinin “gerçek ve giderek daha önemli” olduğunu belirtti; ancak politika yapıcıların, resmî kuralların nasıl işleyeceğine karar vermeden önce bu sistemlerin nerede hata verebileceğini tespit etmesi gerektiğini vurguladı. “Ama düzenleme, bana göre, başlanacak ilk yer değil” diye yazdı.
Bailey'ye göre toplum, ileri seviye YZ etrafında sınırlar çizebilme kabiliyetini korumalı. Bunun için de devreye almadan önce ve sonra yapılacak sıkı testlerle, sistemlerin zayıf noktalarının ortaya çıkarılması ve koruma mekanizmalarının olası arızaları sınırlayıp sınırlayamayacağının sınanması gerekiyor. YZ geliştirilmesinin yasaklanmaması gerektiğini, çünkü “potansiyel faydaların muazzam” olduğunu da ekledi.
Birleşik Krallık, hâlihazırda yapay zekâ güvenliğine odaklanan AI Security Institute’ü kurmuş durumda. Bailey, enstitünün YZ güvence mekanizmaları için bilimsel ve teknik temeli güçlendirmeye yardım ettiğini, ancak “ilerleme hızının artması gerektiğini” vurguladı. Beklenmedik model davranışının testlerin başarısız olduğunu değil, tam tersine bu testlerin niçin vazgeçilmez olduğunu gösterdiğini söyledi.
Ayrıca Oku: Ripple, Brezilya'nın CSD BR Kurumuna Fon Sahipliğini Halka Açık Blokzincire Taşımada Yardımcı Oluyor
OpenAI ve Güvenlik Tartışması
OpenAI ve Anthropic dâhil önde gelen YZ şirketleri, giderek daha yetkin hâle gelen sistemlere yönelik kaygılar büyürken, daha güçlü güvenlik önlemleri ve uluslararası düzeyde koordine edilen risk değerlendirmeleri için bastırıyor. OpenAI kısa süre önce, güvenlik endişeleri nedeniyle en yeni YZ modelini piyasaya sürmeme kararı aldığını açıkladı.
ABD Başkanı Donald Trump, Çin’le rekabet bağlamında ABD’nin YZ geliştirme hızını düşürme çağrılarını reddetti ve “YZ’yi kim kazanırsa, her şeyi o kazanır” ifadesini kullandı. 29 Eylül’de Beyaz Saray’da büyük teknoloji şirketlerinin üst düzey yöneticileriyle yapılan toplantının ardından Trump, katılımcıların “ahlaki açıdan bağlayıcı” bir YZ belgesi imzaladığını ve bunun bir tür “koruma” niteliği taşıdığını söyledi.
Bu mutabakata göre, katılımcı şirketler kendi teknolojilerinin güvenliğinden bizzat sorumlu tutuluyor. Bailey’nin yaklaşımı ise vurgu açısından ayrışıyor: O, politika yapıcıların gelişmiş sistemler etrafında daha resmî bir düzenleyici yapı inşa etmesinden önce, test süreçleriyle nerede müdahale gerektiğinin netleştirilmesini istiyor.
Son haftalarda tartışma hız kazanmış durumda. YZ geliştiricileri, hükümetler ve finansal otoriteler, modellerin daha hızlı evrilmesiyle birlikte gözetim ve denetim konusunda daha çetrefilli sorularla yüzleşiyor. Bailey’nin son çıkışı, sektörden gelen koordineli güvenlik çağrıları, OpenAI’nin bir modeli bekletme kararı ve Beyaz Saray’ın gönüllü, şirket odaklı kontrol yaklaşımını teşvik etmesiyle aynı döneme denk geldi.
Sıradaki Haber: Altcoinler Vadeli İşlem Açık Pozisyonlarının %41'ini Oluşturdu, Spot Hacim Bitcoin'in 4 Katına Çıktı
