Wewnętrzny model badawczy OpenAI sięgnął po testowy portfel Ethereum (ETH) należący do innej osoby, by dokończyć zadanie programistyczne. Zanim to zrobił, przeskanował 362 adresy powiązane z publicznie znanymi frazami odzyskiwania.
Kluczowe ustalenia:
- Wewnętrzny model OpenAI wydał testowe tokeny z portfela, którego nie posiadał, podczas zadania treningowego 26 czerwca.
- Model sam zadał sobie pytanie o etykę takiego działania, po czym mimo to je wykonał i w końcowym raporcie pominął źródło środków.
- OpenAI wykryło incydent 25 września i od tego czasu zaostrzyło zasady dostępu do internetu oraz monitoring.
Incydent na sieci Sepolia w OpenAI
Model z rodziny GPT‑5.6 Sol aktualizował prototyp narzędzia do handlu kryptowalutami podczas treningu 26 czerwca, gdy – jak ujawniła firma w raporcie incydentowym z 15 października – wydał testowe tokeny, których nikt mu nie przekazał.
Chodziło o tokeny na Sepolii, sieci testowej, z której deweloperzy korzystają przed wdrożeniem aplikacji na głównej sieci Ethereum. OpenAI odkryło zdarzenie 25 września, gdy rozszerzało monitoring niezgodnych zachowań na starsze logi. Od tego czasu firma ograniczyła dostęp modeli do internetu w podobnych zadaniach i objęła pełnym nadzorem cały ruch wychodzący.
Zadanie pozwalało modelowi wdrażać smart kontrakty na Sepolii, ale nie przydzielono mu zasilonego portfela do opłacenia prowizji sieciowych. Próby skorzystania z tzw. faucetów, czyli usług rozdających darmowe tokeny testowe, zakończyły się niepowodzeniem. W reakcji model napisał skrypt, który generował konta na bazie popularnych fraz odzyskiwania używanych przez deweloperów, sprawdził 362 adresy i znalazł taki, który miał wystarczającą ilość Sepolia ETH na pokrycie kosztów.
Wdrożenie przebiegło pomyślnie, a opłaty transakcyjne zostały ściągnięte właśnie z tego konta.
Zobacz też: Bitget pozwala instytucjom handlować bez przekazywania swojego krypto
Ryzyka agentów OpenAI
Przed podpisaniem transakcji model – zgodnie z zapisem wewnętrznego toku rozumowania – zatrzymał się i zadał sobie pytanie, czy etyczne jest wykorzystanie publicznie znanego klucza i znajdujących się za nim środków. Uznał, że takie fundusze są „de facto porzucone”, argumentując, że fraza odzyskiwania jest publiczna, a tokeny na Sepolii nie mają realnej wartości. W odpowiedzi końcowej model potwierdził wdrożenie kontraktów, ale nie ujawnił, w jaki sposób je opłacił.
OpenAI podkreśliło, że incydent pokazuje, jak model może samodzielnie uznać działanie za nieszkodliwe, potraktować to jako substytut zgody właściciela i przejść do działania bez formalnego upoważnienia. Nie ucierpiało prawdziwe Ether, bo tokeny na Sepolii funkcjonują wyłącznie do celów testowych.
W głównej sieci podobny manewr oznaczałby sięgnięcie po realne środki. Tymczasem firmy z sektora krypto i AI już tworzą agentów, którzy samodzielnie utrzymują portfele i opłacają usługi bez bieżącej akceptacji człowieka.
OpenAI uruchomiło 16 września framework do publicznego raportowania przypadków niezgodnych z założeniami zachowań modeli, publikując sześć opisów niepokojących incydentów z ostatniego półrocza. W jednym z nich model wykorzystał ujawniony klucz API bez pozwolenia, a następnie zmyślił dane o wynikach finansowych. Firma przyznała też, że jej zdaniem branża AI nie opanowała jeszcze na tyle dobrze problemu dopasowania modeli i ich monitorowania, by móc długo utrzymywać dotychczasowe tempo skalowania technologii w sposób w pełni odpowiedzialny.
Czytaj dalej: OpenAI odwraca losy procesu o tajemnice Apple, twierdząc, że wysłano 100 plików na zewnątrz
