OpenAI z końcem lipca rozwiązało zespół Preparedness, czyli trzeci w ciągu około dwóch lat wyspecjalizowany dział ds. bezpieczeństwa, który przestał istnieć w spółce.
Kluczowe fakty:
- OpenAI pod koniec lipca zamknęło zespół Preparedness, a zadania związane z ryzykiem biologicznym i cyberbezpieczeństwem rozdzielono między istniejące zespoły.
- Decyzja zapadła po serii odejść z najwyższego szczebla w działach bezpieczeństwa i etyki, gdy firma przygotowuje się do wejścia na giełdę.
- OpenAI podkreśla, że Preparedness Framework oraz Safety Advisory Group nadal funkcjonują, a kategorie ryzyka pozostają bez zmian.
OpenAI rozwiązuje Preparedness tuż przed IPO
Zmianę jako pierwszy opisał Financial Times, powołując się na osoby zbliżone do spółki. Jednostka ta oceniała, czy najbardziej zaawansowane modele mogą wyrządzić poważne lub katastrofalne szkody, a następnie analizowała sposoby ograniczenia tych zagrożeń.
Po restrukturyzacji firma podzieliła ten mandat według domen, przekazując obszary biologii i cyberbezpieczeństwa starszym specjalistom rozproszonym po istniejących zespołach.
Zniknął więc przede wszystkim łańcuch raportowania, a nie formalne zasady opisujące, jak spółka ma eskalować niebezpieczne możliwości modeli. Preparedness Framework nadal obejmuje zagrożenia biochemiczne, potencjał cyberataków oraz modele zdolne do samodoskonalenia, nadzorowane przez wewnętrzną Safety Advisory Group.
Zobacz też: Bitcoin pod presją większej wyprzedaży po 90 dniach słabego popytu z USA
Odejścia z działów bezpieczeństwa zwiększają presję na OpenAI
Przebudowa zbiegła się z wyjątkową falą odejść z wyższej kadry zarządzającej. Szef systemów bezpieczeństwa Johannes Heidecke, liderka ds. etyki Chloé Bakalar oraz główny futurolog Joshua Achiam niemal jednocześnie opuścili firmę. Zespół Heidecke został wchłonięty przez jednostkę badawczą kierowaną przez Mię Glaese, wiceprezeskę odpowiedzialną za badania i bezpieczeństwo.
Współzałożyciel Greg Brockman argumentuje, że wbudowanie funkcji bezpieczeństwa bezpośrednio w zespoły rozwijające modele i produkty wzmacnia ich skuteczność, zamiast izolować je w jednym, oddzielnym pionie. Kierownictwo podkreśla również, że chce prowadzić kontrole ryzyka wcześniej, na etapie treningu modeli, bliżej inżynierów faktycznie budujących systemy.
Sceptycy interpretują te same fakty inaczej. Zwracają uwagę, że w firmie nie ma już jednostki, która odpowiada wyłącznie za ryzyko – niezależnie od kalendarza premier i presji komercyjnej. Jan Leike, który odszedł w 2024 r. do konkurencyjnej Anthropic, mówił, że w OpenAI bezpieczeństwo zaczęło przegrywać z „błyszczącymi produktami”.
Scandinaro przyszedł z Anthropic w lutym
Ten ruch cofa decyzję, którą OpenAI podjęło zaledwie sześć miesięcy wcześniej. Skutki zmian nakładają się na przygotowania do jednego z największych technologicznych debiutów giełdowych ostatnich lat.
OpenAI sprowadziło w lutym Dylana Scandinaro z Anthropic, by pokierował obszarem preparedness. Sam Altman określał go wówczas jako najlepszą osobę do tej roli. Scandinaro ostrzegał przed „ryzykiem skrajnych, a nawet nieodwracalnych szkód”. Obecnie koncentruje się na systemach zdolnych do rekursywnego samodoskonalenia, ale zespół, który miał wokół siebie zbudować, już nie istnieje.
Przeczytaj następnie: CZ przenosi 965 tys. dol. do Giggle Academy, gdy założyciel Binance przerzuca się na edukację
