OpenAI testuje system bezpieczeństwa, który wykrywa nadużycia bez przechowywania danych klientów – to bezpośrednia odpowiedź na nową, 30‑dniową politykę retencji Anthropic.
Najważniejsze informacje:
- OpenAI udostępnia w podglądzie Private Safety Processing – narzędzie wyszukujące wzorce nadużyć między powiązanymi sesjami, bez zachowywania promptów i odpowiedzi klientów.
- Anthropic wymaga od klientów korporacyjnych 30‑dniowej retencji danych przy swoich najmocniejszych modelach, tłumacząc to koniecznością wykrywania wieloetapowych ataków.
- Szerokie wdrożenie rozwiązania OpenAI oraz publikacja technicznego white paperu są zaplanowane na wrzesień.
Private Safety Processing ma wyłapywać nadużycia między sesjami
Firma poinformowała o starcie podglądu w środę, przedstawiając go jako rozwinięcie Zero Data Retention – modelu, w którym OpenAI nie przechowuje promptów ani odpowiedzi modeli po przetworzeniu żądania. Szerzej dostępna wersja i dokumentacja techniczna mają pojawić się we wrześniu.
W nowej architekturze treści klientów pozostają na infrastrukturze kontrolowanej przez klienta albo są składowane u OpenAI w formie zaszyfrowanej kluczami, do których dostęp ma wyłącznie klient. Zautomatyzowane narzędzia analizują te dane pod kątem wzorców nadużyć w powiązanych sesjach. Projekt obejmuje także tzw. pracę agentową – sytuacje, gdy system kontynuuje działanie, mimo że użytkownik formalnie je zakończył. Pracownicy firmy nie mają wglądu w te dane.
Aleah Houze, szefowa polityki produktowej, powiedziała dziennikarzom, że niebezpieczne zachowania często stają się widoczne dopiero wtedy, gdy odczyta się kilka interakcji łącznie. Jako przykład podała użytkownika, który w jednej rozmowie bada luki w oprogramowaniu, a w kolejnej dopytuje o narzędzia do zdalnego dostępu.
Zobacz także: Ukryty watermark Claude’a wypacza sztukę pisania, twierdzi Gruber
Zasada retencji Anthropic dzieli konkurentów
Anthropic w lipcu ogłosił przeciwną strategię – 30 dni obowiązkowej retencji danych dla klientów korporacyjnych korzystających z jego najbardziej zaawansowanych modeli, w tym Fable 5 i Mythos 5.
Laboratorium przyznało, że polityka może być niepopularna i odbić się na wynikach biznesowych, ale określiło logi jako kluczowe do wychwytywania ataków celowo rozbijanych na wiele osobnych żądań. Możliwy pozostaje też nadzór człowieka, choć wyłącznie za pośrednictwem ściśle kontrolowanej ścieżki dostępnej dla niewielkiej grupy uprawnionych recenzentów. Każda sesja jest zapisywana w nienaruszalnym rejestrze.
Analitycy pytają o moment i dowody ze strony OpenAI
Brian Levine, dyrektor zarządzający FormerGov, określił w komentarzu zapowiedź jako mocne zobowiązanie techniczne, ponieważ dotąd monitoring nadużyć i pełna ślepota na treści zwykle się wykluczały.
Zwrócił przy tym uwagę, że rzeczywiste dowody nadejdą dopiero za kilka tygodni. Jason Andersen z Moor Insights and Strategy odczytał ostatnie ogłoszenia częściowo jako przygotowanie gruntu pod potencjalne wejście OpenAI na giełdę.
Flavio Villanustre, szef bezpieczeństwa informacji w LexisNexis Risk Solutions Group, widzi w ruchu OpenAI próbę złagodzenia nadchodzących regulacji, których się spodziewa.
Podgląd Private Safety Processing zamyka tydzień intensywnej komunikacji na temat bezpieczeństwa. We wtorek firma ogłosiła spowolnienie skalowania i wstrzymanie treningu reinforcement learning, aby wzmocnić środowisko badawcze i poddać je testom „red team”. Szacuje również, że rozszerzony monitoring zużyje około 20% mocy obliczeniowej inference objętej nadzorem.
Przeczytaj też: Bitcoin może ponownie przebić 100 tys. dol. przed halvingiem 2028 r., twierdzi Scaramucci
