OpenAI uruchomiło Tryb Blokady, nową funkcję bezpieczeństwa mającą na celu ochronę użytkowników, którzy pracują z wrażliwymi informacjami, przed prompt injection attacks. Firma udostępniła tę funkcję 7 czerwca 2026 roku.
Według The Economic Times Tryb Blokady został zaprojektowany tak, aby bronić przed wstrzykiwaniem promptów – metodą ataku, w której złośliwe instrukcje osadzone w danych wejściowych próbują nadpisać lub zmanipulować zachowanie modelu AI.
Co robi Tryb Blokady
Wstrzykiwanie promptów jest jedną z najczęściej omawianych podatności przy wdrażaniu dużych modeli językowych. Atakujący tworzą dane wejściowe, które instruują model, by ignorował wcześniejsze polecenia lub ujawniał informacje objęte ograniczeniami. Tryb Blokady wprowadza dodatkowe zabezpieczenia, aby ograniczyć to ryzyko.
OpenAI nie opublikowało pełnej, technicznej specyfikacji wdrożenia Trybu Blokady w obecnej wersji. Firma opisała tę funkcję jako skierowaną do użytkowników zarządzających danymi wrażliwymi, co sugeruje, że odbiorcami są m.in. klienci korporacyjni, badacze i specjaliści dbający o bezpieczeństwo.
Wprowadzenie tej funkcji wpisuje się w szerszy trend w OpenAI, polegający na dodawaniu kolejnych poziomów dostępu i warstw bezpieczeństwa, w miarę jak platforma obsługuje coraz bardziej ryzykowne zastosowania. Wdrożenia korporacyjne w sektorze prawnym, ochrony zdrowia i administracji publicznej zwiększyły potrzebę stosowania zabezpieczeń już na poziomie danych wejściowych.
Also Read: Two AI Rivals, One Compute Bill: Inside Google's $30B SpaceX Move
Tło
Działania OpenAI związane z narzędziami nastawionymi na bezpieczeństwo następują po okresie wzmocnionej kontroli nad zachowaniem modeli AI. W tygodniach poprzedzających tę premierę szefowie OpenAI, Anthropic, Google DeepMind i Microsoft wspólnie wezwali Kongres do wprowadzenia obowiązkowych badań przesiewowych syntetycznego DNA, powołując się na potencjalną rolę AI w zagrożeniach dla biobezpieczeństwa. Ten list, opisany pod koniec maja i na początku czerwca 2026 roku, umieścił kwestię bezpieczeństwa AI w centrum legislacyjnej agendy Waszyngtonu.
Premiera Trybu Blokady zbiega się w czasie z działaniami konkurentów, w tym Anthropic, którzy również zaostrzyli kontrolę dostępu do swoich najpotężniejszych modeli. Anthropic ograniczył dostęp do systemu Claude Mythos na początku tego roku w ramach dobrowolnego procesu przeglądu przed pełnym udostępnieniem.
Dodawanie funkcji bezpieczeństwa przez OpenAI następuje przed poufnym złożeniem dokumentów związanych z IPO spółki, przekazanych do SEC 1 czerwca. Wykazanie zabezpieczeń na poziomie klasy korporacyjnej prawdopodobnie będzie istotnym elementem budowania zaufania inwestorów przed ewentualnym wejściem na giełdę.
Read Next: Tencent Hires Former OpenAI Researcher Yao Shunyu As Chief AI Scientist In AGI Push