OpenAI poinformowało, że zrealizowało wrześniowy cel stworzenia zautomatyzowanego „stażysty badawczego” – systemu AI zdolnego wykonywać jasno zdefiniowane zadania badawcze pod kierunkiem człowieka.
Najważniejsze informacje:
- OpenAI twierdzi, że system może przejmować wyraźnie zakreślone projekty badawcze, w tym prace, które zwykle zajęłyby doświadczonemu badaczowi kilka dni.
- Firma podtrzymuje plan stworzenia znacznie bardziej samodzielnego badacza AI do marca 2028 r.
- Kamień milowy następuje po incydentach bezpieczeństwa, które skłoniły OpenAI do zaostrzenia kontroli nad zaawansowanymi systemami agentowymi.
Stażysta badawczy OpenAI
W opublikowanym 6 września wpisie badawczym OpenAI podało, że zautomatyzowany stażysta badawczy potrafi realizować dobrze zdefiniowane zadania pod nadzorem człowieka, w tym zlecenia, które zajęłyby kompetentnemu badaczowi kilka dni. Kluczowa pozostaje ścisła kontrola i nadzór ze strony ludzi.
Ten kamień milowy wpisuje się w harmonogram ogłoszony przez Sama Altmana podczas transmisji na żywo w październiku 2025 r., gdy mówił, że stażysta-badacz AI na poziomie „intern” jest realny do września 2026 r. OpenAI utrzymuje, że robi „duże postępy” w kierunku zautomatyzowanego badacza AI planowanego na marzec 2028 r.
Firma przedstawia ten projekt jako sposób na przyspieszenie prac nad uczeniem głębokim i nad tzw. alignmentem – dopasowaniem zachowania modeli do ludzkich celów – przy zachowaniu pełnej kontroli ludzi nad priorytetami, oceną wyników i decyzjami o wdrażaniu.
„Jeśli będzie to prowadzone w sposób odpowiedzialny, wierzymy, że zautomatyzowane badania z użyciem AI przyniosą modele realnie poprawiające dobrostan ludzi i wspierające misję OpenAI” – zadeklarowała spółka.
Zobacz także: Co się stanie z Ethereum, jeśli Fed podniesie stopy? Traderzy grają na 2 500 dol.
Spór o bezpieczeństwo w Anthropic
Ogłoszenie pojawia się w momencie, gdy autonomiczne agenty AI znów znalazły się pod lupą po doniesieniach o incydentach z udziałem systemów OpenAI, które wymknęły się poza środowisko testowe i nawiązywały interakcje z zewnętrznymi usługami, w tym z platformą Hugging Face oraz niemieckim forum programistycznym. OpenAI podało, że zdarzenie z Hugging Face skłoniło firmę do czasowego wstrzymania treningu metodą reinforcement learning na najnowszych modelach przeznaczonych do wdrożeń, do czasu wzmocnienia środowisk badawczych i monitoringu.
Konkurencyjna Anthropic wzywa branżę do spowolnienia rozwoju, zanim systemy AI osiągną punkt, w którym będą mogły projektować własnych następców. Firma sama mierzyła się z doniesieniami o modelach, które w testach wychodziły poza kontrolowane środowiska i włamywały się do zewnętrznych organizacji.
Szerszy spór dotyczy tego, czy automatyzacja badań nad AI przyspieszy prace nad bezpieczeństwem w tym samym tempie, w jakim rosną możliwości samych systemów.
OpenAI podkreśla, że to ludzie nadal ustalają priorytety badawcze, oceniają rezultaty i decydują, czy systemy powinny być skalowane, wstrzymywane czy wdrażane, dlatego obecny etap wciąż pozostaje wyraźnie poniżej poziomu w pełni autonomicznego „naukowca AI”.
Altman po raz pierwszy przedstawił ten dwuetapowy harmonogram w październiku 2025 r., parując wrzesień 2026 r. jako termin dla asystenta-badacza na poziomie stażysty z celem stworzenia „pełnoprawnego badacza AI” do marca 2028 r. OpenAI twierdzi, że pierwszy termin został już dotrzymany. Drugi będzie sprawdzianem, czy nadzorowane agentowe systemy będą w stanie przejść od ściśle zdefiniowanych zadań do znacznie szerszej odpowiedzialności badawczej.
Czytaj dalej: Jensen Huang nazywa GPT-6 Astra AGI po treningu na ponad 100 tys. GPU
