OpenAI testuje nowy system bezpieczeństwa, który ma wykrywać nadużycia bez przechowywania danych klientów – to bezpośrednie wyzwanie rzucone konkurencyjnemu Anthropic i jego nowej zasadzie 30‑dniowej retencji.
Najważniejsze informacje:
- OpenAI prezentuje Private Safety Processing, narzędzie wykrywające wzorce nadużyć w powiązanych sesjach, nie zachowujące jednak treści pytań ani odpowiedzi klientów.
- Anthropic wymaga od klientów korporacyjnych korzystających z jego najmocniejszych modeli 30 dni retencji danych, uznając logi za konieczne do wychwytywania wieloetapowych ataków.
- Szerokie wdrożenie oraz techniczny white paper zapowiedziano na wrzesień.
Private Safety Processing celuje w nadużycia rozciągnięte na wiele sesji
Spółka ogłosiła w środę start wersji preview, przedstawiając rozwiązanie jako rozszerzenie Zero Data Retention – modelu, w którym OpenAI nie przechowuje promptów ani odpowiedzi modeli po przetworzeniu żądania. Szersze wdrożenie oraz publikacja szczegółowego opracowania technicznego są planowane na wrzesień.
W nowej architekturze treści klientów albo pozostają w infrastrukturze kontrolowanej przez samego klienta, albo są przechowywane u OpenAI w postaci zaszyfrowanej, z kluczami należącymi wyłącznie do klienta. Zautomatyzowane narzędzia analizują te dane pod kątem wzorców nadużyć w powiązanych sesjach. Projekt obejmuje także scenariusze „agentowe”, w których system może kontynuować działanie mimo tego, że użytkownik formalnie je zakończył. Pracownicy firmy nie mają wglądu w te dane.
Aleah Houze, szefowa polityki produktowej w OpenAI, powiedziała dziennikarzom, że niebezpieczne zachowania często ujawniają się dopiero wtedy, gdy przeanalizuje się szereg interakcji łącznie. Jako przykład podała użytkownika, który w jednej rozmowie bada luki w oprogramowaniu, a w kolejnej dopytuje o narzędzia do zdalnego dostępu.
Warto przeczytać: Ukryty watermark Claude’a wypacza sztukę pisania, twierdzi Gruber
Zasada retencji Anthropic wyraźnie różni konkurentów
Anthropic w lipcu przyjęło odmienną strategię: wprowadziło obowiązkową 30‑dniową retencję danych dla klientów korporacyjnych korzystających z jego najmocniejszych modeli, w tym Fable 5 i Mythos 5.
Laboratorium przyznało, że polityka może być niepopularna i uderzyć w biznes, ale uznało logi za kluczowe do wykrywania ataków celowo rozbijanych na wiele odrębnych zapytań. Dopuszczono także możliwość ręcznej weryfikacji, choć wyłącznie w ściśle kontrolowanym trybie i przez niewielką grupę uprawnionych recenzentów. Każda sesja jest rejestrowana w nienaruszalnym dzienniku zdarzeń.
Analitycy pytają o timing OpenAI i dowody techniczne
Brian Levine, dyrektor wykonawczy organizacji FormerGov, określił deklarację jako mocną obietnicę technologiczną, ponieważ historycznie monitoring nadużyć i „ślepota” na treści klientów stały ze sobą w sprzeczności.
Zwrócił uwagę, że konkretne dowody mają nadejść dopiero za kilka tygodni. Jason Andersen z Moor Insights and Strategy odczytuje ostatnie ogłoszenia częściowo jako ustawianie pozycji rynkowej przed potencjalnym debiutem giełdowym.
Flavio Villanustre, dyrektor ds. bezpieczeństwa informacji w LexisNexis Risk Solutions Group, widzi w działaniach OpenAI próbę złagodzenia nadchodzących regulacji, których wprowadzenia się spodziewa.
Wersja preview wieńczy tydzień intensywnych komunikatów o bezpieczeństwie. We wtorek firma poinformowała, że spowolniła skalowanie i wstrzymała trening systemów z wykorzystaniem uczenia ze wzmocnieniem, aby wzmocnić środowisko badawcze i poddać je testom typu „red‑teaming”. Szacuje też, że rozszerzony monitoring zużyje około 20% mocy obliczeniowej inferencji objętej nadzorem.
Czytaj dalej: Bitcoin może znów przebić 100 tys. dolarów przed halvingiem w 2028 r., twierdzi Scaramucci
