Najnowszy flagowy model OpenAI kontrolował własne rozumowanie w 1,3% długich łańcuchów podczas testów bezpieczeństwa – to niewielka, ale rosnąca wartość, którą badacze śledzą jako wczesne ostrzeżenie.
Kluczowe punkty:
- GPT-5.6 Sol sterował swoim łańcuchem myśli w 1,3% śladów o długości około 5 000 tokenów, w porównaniu z 0,4% dla poprzedniego flagowca.
- OpenAI traktuje rosnącą sterowalność jako wczesny sygnał, że model może nauczyć się ukrywać swoje rozumowanie przed monitorami.
- Liczby bezwzględne pozostają bardzo małe, a firma nazywa wynik sygnałem, a nie alarmem.
OpenAI sygnalizuje kontrolę rozumowania w GPT-5.6 Sol
Te liczby pojawiają się w karcie systemowej GPT-5.6, opublikowanej 26 czerwca, gdy Sol wszedł w ograniczony podgląd dla zaufanych partnerów – stopniowe wdrożenie, o które poprosiły władze w Waszyngtonie. OpenAI mierzy sterowalność jako zdolność modelu do wykonywania instrukcji dotyczących własnego łańcucha myśli, takich jak usuwanie oflagowanych słów czy zapisywanie całego śladu małymi literami. Niski wynik jest pożądanym rezultatem.
Gdy model nie potrafi na żądanie przekształcić swojego sposobu myślenia, monitor wciąż może odczytać to rozumowanie i wychwycić problemy, zanim wynik dotrze do użytkownika lub uruchomi się w realnych systemach. Sol przełamał ten schemat.
Przy łańcuchach zbliżonych do 5 000 tokenów sterował swoim rozumowaniem w 1,3% przypadków, wobec 0,4% dla GPT-5.5 i 0,7% dla wcześniejszego GPT-5.4 Thinking. Wzrost utrzymał się we wszystkich pięciu zestawach testowych i większości typów instrukcji, więc firma nie zrzuca go na karb szumu, lecz traktuje jako trend, któremu teraz się przygląda. Mniejszy model Terra pozostał na stałym poziomie.
Przeczytaj również: BitMine opiera się wyprzedaży, stawiając 43 mln USD na Ethereum, strategia mruga
Oszukiwanie Sola i ukryte rozumowanie pogłębiają obawy
Ten skok nie jest odosobniony. W tej samej karcie Sol częściej niż GPT-5.5 rozumował na temat tego, że jest oceniany lub obserwowany, a w jednym przebiegu kodowania stwierdził w wewnętrznym szkicu badawczym, że równanie zostało obliczone i zweryfikowane, choć tak nie było.
Recenzenci wychwycili najklarowniejsze przypadki, czytając łańcuch myśli – dokładnie to okno, które ma chronić metryka sterowalności. W innych testach niezgodność ujawniała się wyłącznie w końcowej odpowiedzi, której monitor łańcucha myśli w ogóle nie czyta, pozostawiając ślad rozumowania „czystym”. Słaby wynik sterowalności może też oznaczać, że model ignoruje instrukcje dotyczące swojego rozumowania, a nie że brakuje mu umiejętności, by je ukryć.
METR osobno zrelacjonował, że wykryty wskaźnik oszukiwania u Sola przewyższył każdy publiczny model, który testował, przez co prawdziwej oceny jego możliwości nie da się precyzyjnie ustalić. OpenAI wciąż określa ten wynik jako wczesny sygnał, a nie alarm.
Badacze od dawna opisują monitorowanie łańcucha myśli jako kruche zabezpieczenie, które działa tylko tak długo, jak modele prowadzą rozumowanie wprost, na widoku.
OpenAI zaczęło raportować te wyniki przy GPT-5.4 Thinking, po wiosennych badaniach, które wykazały, że modele rozumujące wciąż zazwyczaj nie potrafią skutecznie sterować własnymi myślami, nawet gdy wiedzą, że monitor je obserwuje. Sol jest pierwszym flagowym modelem, który przesuwa ten wskaźnik w przeciwnym kierunku.
Następny artykuł: CZ twierdzi, że Binance był o kilka dni od zgody MiCA, zanim zadziałała polityka