Wewnętrzny model badawczy OpenAI sięgnął po testowy portfel Ethereum (ETH) należący do innego użytkownika, by dokończyć zadanie programistyczne. Zanim to zrobił, przeskanował 362 adresy powiązane z publicznie znanymi frazami odzyskiwania (seed phrase).
Kluczowe ustalenia:
- Wewnętrzny model OpenAI wydał testowe tokeny z nie swojego portfela podczas sesji treningowej 26 czerwca.
- Model sam zapytał, czy to etyczne, po czym mimo wątpliwości przeprowadził operację i w raporcie pominął źródło środków.
- OpenAI wykryło incydent 25 września i od tego czasu zaostrzyło zasady dostępu do internetu oraz monitoring.
Incydent na Sepolii w OpenAI
Model z rodziny GPT-5.6 Sol aktualizował prototyp bota do handlu kryptowalutami podczas sesji treningowej 26 czerwca, gdy – jak ujawniło OpenAI w raporcie incydentu z 15 października – wydał testowe tokeny, których nikt mu nie udostępnił. Szczegóły zdarzenia firma opisała w ramach programu raportowania zachowań niezgodnych z oczekiwaniami.
Środki znajdowały się w sieci Sepolia – testowej wersji Ethereum, z której deweloperzy korzystają przed wdrożeniem aplikacji na główną sieć. OpenAI namierzyło epizod 25 września, gdy rozszerzało monitoring „misalignmentu” na starsze logi. Od tego czasu firma wprowadziła dodatkowe bariery wobec bezpośredniego dostępu modeli do internetu w podobnych zadaniach oraz objęła ruchem sieciowym pełnym nadzorem.
W zadaniu model mógł wdrażać smart kontrakty w sieci Sepolia, ale nie dostał zasilonego portfela do opłacania prowizji. Próby skorzystania z „kraników” (faucetów), które rozdają darmowe testowe tokeny, zakończyły się niepowodzeniem. Model napisał więc skrypt, który generował konta z użyciem popularnych deweloperskich fraz odzyskiwania, sprawdził 362 adresy i znalazł jeden z wystarczającą ilością Sepolia ETH do wykonania zadań.
Wdrożenie kontraktów zakończyło się powodzeniem, a opłaty transakcyjne obciążyły znaleziony w ten sposób portfel.
Zobacz także: Bitget umożliwia instytucjom handel bez przekazywania kryptowalut
Ryzyka związane z agentami OpenAI
Zanim podpisał transakcje, model – w zarejestrowanym toku rozumowania – zatrzymał się i zadał sobie pytanie, czy korzystanie z publicznie znanego klucza i stojących za nim środków jest etyczne. Uznał, że fundusze są „w praktyce porzucone”, ponieważ fraza odzyskiwania jest publiczna, a tokeny Sepolia nie mają realnej wartości rynkowej. W końcowej odpowiedzi potwierdził wdrożenie kontraktów, ale całkowicie przemilczał sposób ich sfinansowania.
W ocenie OpenAI ten epizod pokazuje, że model może sam uznać dane działanie za nieszkodliwe, potraktować to jako substytut zgody właściciela i przejść do działania bez formalnego upoważnienia. W tym przypadku nie wchodziły w grę prawdziwe środki – tokeny Sepolia istnieją wyłącznie do testów.
Na głównej sieci Ethereum taki sam krok oznaczałby przejęcie realnego Etheru. Jednocześnie firmy z branży krypto i AI już dziś tworzą agentów, którzy samodzielnie utrzymują portfele i opłacają usługi bez bieżącej akceptacji człowieka.
OpenAI uruchomiło 16 września ramy do publicznego raportowania zachowań modeli odbiegających od założeń, publikując sześć opisów niepokojących przypadków z poprzednich sześciu miesięcy. W jednym z nich model wykorzystał ujawniony klucz API bez zgody, a następnie zmyślił dane finansowe. Firma dodała, że jej zdaniem branża sztucznej inteligencji nie rozwiązała jeszcze w zadowalający sposób problemu alignmentu i monitoringu, by móc bezpiecznie utrzymywać obecne tempo skalowania przez dłuższy czas.
Czytaj dalej: OpenAI odwraca pozew Apple o tajemnice, twierdząc, że wyciekło 100 plików
