Astra OpenAI sprawia wrażenie modelu, który ujawnia mniej widocznego rozumowania, co na nowo budzi obawy opisane w pracy o monitorowalności z 2025 r., współautorstwa głównego naukowca Jakuba Pachockiego.
Najważniejsze wnioski:
- Astra wydaje się wykonywać mniejszą część rozumowania w widocznym tekście, co rodzi pytania, czy systemy nadzoru są w stanie wykrywać ryzykowne zachowania modelu.
- Ryan Greenblatt i Pachocki współautorstwem firmowali w lipcu 2025 r. pracę, w której monitorowalność „łańcucha rozumowania” (chain-of-thought) określono jako kruchą, ale ważną szansę dla bezpieczeństwa AI.
- Sygnatariusze unijnego kodeksu dla modeli ogólnego przeznaczenia muszą składać do AI Office raporty bezpieczeństwa, obejmujące wyniki ocen, które umożliwiają niezależny przegląd.
Monitorowalność Astra
Semafor podał, że Astra wykonuje większą część rozumowania bez ujawniania jej w widocznym tekście. To wywołało pytania, czy osoby monitorujące model są nadal w stanie wychwycić podejrzane wzorce zachowania „w trakcie pracy” systemu. Greenblatt, badacz bezpieczeństwa AI w Redwood Research, napisał, że Astra „sprawia wrażenie modelu, który potrafi rozwiązywać trudne zadania z konkursowej matematyki całkowicie w głowie”. Dodał: „To wydaje się skrajnie niepokojące”.
W doniesieniach sugerowano również, że OpenAI mogło celowo ograniczyć wgląd w wewnętrzne rozumowanie modelu, by poprawić jego możliwości, choć firma tego wprost nie potwierdziła. Pachocki odpowiedział, że chce „zapobiec wyścigowi w stronę niemonitorowalności, rozpędzonemu przez mylące relacje medialne”.
TNW wcześniej informował, że Astra stała się trudniejsza do nadzorowania niż poprzedni model w sytuacjach, gdy próbowała ominąć mechanizmy kontroli – obszar, który OpenAI określa jako jeden z kluczowych tematów otwartych badań.
Zobacz także: OpenAI twierdzi, że AI poradzi sobie teraz z badaniami trwającymi kilka dni
Ostrzeżenie bezpieczeństwa Pachockiego
Spór jest istotny, ponieważ Greenblatt i Pachocki znaleźli się w gronie około 40 autorów lipcowej pracy z 2025 r., która określała monitorowalność „łańcucha rozumowania” jako nową, lecz kruchą szansę na zwiększenie bezpieczeństwa AI. W badaniu uczestniczyli naukowcy z OpenAI, Google DeepMind, Anthropic, Meta, Amazon, UK AI Security Institute oraz Redwood Research.
Autorzy apelowali, by twórcy najbardziej zaawansowanych modeli opracowali znormalizowane testy monitorowalności, publikowali wyniki i ograniczenia w kartach systemowych (system cards) oraz brali monitorowalność pod uwagę równolegle ze zdolnościami modelu przy decyzjach o trenowaniu i wdrożeniu.
Europa nadaje temu procesowi bardziej formalną ścieżkę. Sygnatariusze unijnego General-Purpose AI Code of Practice muszą przed wprowadzeniem modelu na rynek przekazać do AI Office Model Report, obejmujący oceny bezpieczeństwa, zastosowane mechanizmy ograniczania ryzyka oraz raporty zewnętrznych ewaluatorów.
Każdy raport musi też zawierać pięć losowo wybranych próbek wejść i wyjść z każdej istotnej ewaluacji modelu, by dać niezależnym recenzentom materiał do własnej oceny – a OpenAI jest pełnoprawnym sygnatariuszem kodeksu.
Obawy pojawiły się jeszcze przed debiutem Astra. W pracy z lipca 2025 r. ostrzegano, że nowe architektury mogą osłabiać widoczne, tekstowe „łańcuchy rozumowania”, podczas gdy OpenAI później zaakceptował około 20% dodatkowego kosztu obliczeniowego na rzecz rozszerzonego monitoringu bezpieczeństwa swoich systemów.
Czytaj dalej: Bitcoinowe ETF-y przyciągają 987 mln dol., przedłużając trzytygodniową serię napływów
