OpenAI, hassas bilgiyle çalışan kullanıcıları prompt injection attacks karşısında korumayı amaçlayan yeni güvenlik özelliği Kilitleme Modu'nu kullanıma sundu. Şirket, özelliği 7 Haziran 2026'da devreye aldı.
The Economic Times'a göre Kilitleme Modu, girdilere gömülü kötü niyetli talimatların modelin davranışını geçersiz kılmaya veya manipüle etmeye çalıştığı bir saldırı yöntemi olan istem zorlama saldırılarına karşı savunma sağlamak için tasarlandı.
Kilitleme Modu Ne Yapıyor?
İstem zorlama, büyük dil modellerinin yaygın şekilde konuşulan zafiyetlerinden biri. Saldırganlar, modele önceki talimatları yok saymasını veya kısıtlı bilgileri ifşa etmesini söyleyen girdiler hazırlar. Kilitleme Modu, bu riski azaltmak için ek kontrol katmanları uygular.
OpenAI, mevcut sürümde Kilitleme Modu'nun tam teknik ayrıntılarını yayımlamadı. Şirket, özelliği özellikle hassas verileri yöneten kullanıcıları hedefleyen bir araç olarak tanımlayarak hedef kitlenin kurumsal müşterileri, araştırmacıları ve güvenlik odaklı profesyonelleri kapsadığını ima etti.
Bu lansman, OpenAI'nin, platform gittikçe daha yüksek riskli kullanım alanlarını üstlendikçe erişim katmanları ve güvenlik katmanları ekleme eğilimini yansıtıyor. Hukuk, sağlık ve kamu gibi alanlardaki kurumsal kullanımlar, girdi düzeyinde güvenlik kontrollerine olan ihtiyacı artırdı.
Ayrıca Oku: Two AI Rivals, One Compute Bill: Inside Google's $30B SpaceX Move
Arka Plan
OpenAI'nin güvenlik odaklı araçlara yönelimi, model davranışına ilişkin artan inceleme sürecini takip ediyor. Bu lansmandan önceki haftalarda OpenAI, Anthropic, Google DeepMind ve Microsoft yöneticileri, yapay zekânın biyogüvenlik tehditlerindeki potansiyel rolünü gerekçe göstererek Kongre'yi sentetik DNA taramasını zorunlu kılmaya birlikte çağırdı. Mayıs sonu ve Haziran 2026 başında bildirilen bu mektup, yapay zekâ güvenliğini Washington'un yasama gündeminin merkezine yerleştirdi.
Kilitleme Modu sürümü, Anthropic de dahil olmak üzere rakiplerin en yetenekli modelleri için erişim kontrollerini sıkılaştırdığı bir döneme denk geliyor. Anthropic, yılın başlarında Claude Mythos sistemine erişimi, gönüllü bir ön sürüm inceleme çerçevesinin parçası olarak sınırlamıştı.
OpenAI'nin bu güvenlik özellikleri, şirketin 1 Haziran'da SEC'e sunduğu gizli halka arz başvurusunun öncesinde geliyor. Kurumsal seviyede güvenlik kontrolleri sunabilmek, olası bir halka arzdan önce yatırımcı güveni açısından önemli bir unsur olarak görülüyor.
Sıradaki Haber: Tencent Hires Former OpenAI Researcher Yao Shunyu As Chief AI Scientist In AGI Push