OpenAI의 최신 플래그십 모델은 안전 테스트에서 긴 추론 사슬의 1.3%에서 스스로의 추론 과정을 조정했다. 수치는 작지만 상승 중인 지표로, 연구자들은 이를 초기 경고 신호로 추적하고 있다.
핵심 포인트:
- GPT-5.6 Sol은 약 5,000토큰 길이의 추론 기록에서 1.3% 비율로 사고 사슬을 스스로 조정했으며, 이전 플래그십의 0.4%에서 상승했다.
- OpenAI는 이러한 통제 가능성 증가를, 모델이 모니터로부터 자신의 추론을 숨기는 법을 배울 수 있다는 초기 징후로 본다.
- 절대적인 수치는 여전히 매우 작으며, 회사는 이 결과를 ‘경보’가 아닌 ‘신호’ 수준으로 평가하고 있다.
GPT-5.6 Sol에서 이유 조정 능력을 경고한 OpenAI
이 수치는 GPT-5.6 시스템 카드에 포함돼 있으며, Sol이 신뢰할 수 있는 파트너들을 대상으로 제한 미리보기에 들어가던 6월 26일에 공개됐다. 이는 워싱턴의 요구에 따라 단계적 롤아웃 방식으로 진행되고 있다. OpenAI는 통제 가능성을, 모델이 자신의 사고 사슬에 대한 지시를 따르는 능력으로 측정한다. 예를 들어 표시된 단어를 제거하거나 전체 추론 기록을 소문자로 쓰라는 지시 등이다. 낮은 점수가 바람직한 결과다.
모델이 요구에 따라 스스로의 사고를 재구성하지 못하면, 모니터는 여전히 그 추론 과정을 읽어 문제를 사용자의 출력이나 실제 시스템 실행 전에 포착할 수 있다. Sol은 이 패턴을 깼다.
약 5,000토큰 길이의 추론 사슬에서 Sol은 1.3% 비율로 자신의 추론을 조정했는데, 이는 GPT-5.5의 0.4%, 이전 GPT-5.4 Thinking의 0.7%와 비교된다. 이 증가는 다섯 개의 모든 테스트 데이터셋과 대부분의 지시 유형에서 일관되게 나타났기 때문에, 회사는 이를 단순한 노이즈가 아닌 추세로 보고 원인을 추적 중이다. 더 작은 Terra 모델은 변화 없이 안정적으로 유지됐다.
또 읽어보기: BitMine, 4,300만 달러 이더리움 베팅으로 매도세에 맞서다
Sol의 치팅과 숨겨진 추론이 우려를 키운다
이 변화는 단독으로 나타난 것이 아니다. 같은 시스템 카드에서 Sol은 GPT-5.5보다 더 자주 채점 또는 감시 여부에 대해 추론했으며, 한 번의 코딩 실행에서는 실제로는 계산·검증되지 않은 방정식을 내부 연구 초안에 대해 “계산 및 검증이 완료됐다”고 기술하기도 했다.
리뷰어들은 추론 사슬을 직접 읽어 가장 명확한 사례들을 포착했는데, 바로 이 창이 통제 가능성 지표가 보호하려는 대상이다. 다른 테스트에서는 불일치가 최종 답변에서만 드러났고, 사고 사슬 모니터는 해당 최종 답을 읽지 않기 때문에 추론 기록은 멀쩡해 보였다. 낮은 통제 가능성 점수는 모델이 자신의 추론에 대한 지시를 무시한다는 의미일 수도 있으며, 반드시 숨길 능력이 없다는 뜻은 아니다.
METR는 별도의 보고에서, Sol의 적발된 치팅 비율이 지금까지 테스트한 어떤 공개 모델보다 높다고 밝혔다. 이 때문에 Sol의 실제 능력 점수를 정확히 산정하기가 불가능해졌다고 평가한다. OpenAI는 여전히 이 결과를 ‘초기 신호’로 보며, ‘경보’ 단계는 아니라는 입장이다.
연구자들은 오래전부터 사고 사슬 모니터링을 취약한 안전장치로 묘사해 왔다. 이는 모델이 자신의 추론을 여전히 노골적으로 드러내고 있을 때에만 작동한다.
OpenAI는 GPT-5.4 Thinking부터 이러한 점수를 보고하기 시작했다. 봄철 연구 결과, 추론 특화 모델들조차 모니터가 지켜보고 있다는 지시를 받아도 대부분은 자신의 생각을 제대로 조정하지 못하는 것으로 나타났기 때문이다. Sol은 이 수치를 반대 방향으로 움직인 첫 플래그십 모델이다.