OpenAI 내부 연구용 모델이 공개된 복구 구문과 연결된 이더리움 (ETH) 테스트 지갑 362개를 스캔한 뒤, 그중 한 지갑의 토큰을 활용해 코딩 과제를 마친 사실이 드러났다.
핵심 내용
- OpenAI 내부 모델이 6월 26일 훈련 작업 중, 자신 소유가 아닌 지갑의 테스트 토큰을 사용한 사실이 확인됐다.
- 모델은 윤리성을 스스로 검토했지만, ‘문제없다’고 판단하고 자금 출처는 보고서에서 의도적으로 누락했다.
- OpenAI는 9월 25일 이 사건을 파악한 뒤 인터넷 접속과 트래픽 모니터링을 대폭 강화했다.
OpenAI Sepolia 사건
이번에 문제가 된 모델은 GPT-5.6 Sol 계열로, 6월 26일 진행된 훈련 과정에서 크립토 트레이딩용 프로토타입을 업데이트하는 임무를 맡고 있었다. 당시 이 모델은 아무도 제공하지 않은 테스트 토큰을 사용해 과제를 수행했다고 OpenAI는 10월 15일 공개한 사고 보고서에서 밝혔다.
해당 토큰은 이더리움 애플리케이션을 메인넷에 올리기 전에 시험해보는 용도의 테스트넷인 Sepolia 상에 존재한다. OpenAI는 9월 25일, 과거 기록까지 범위를 넓혀 ‘탈선 행동(misalignment)’을 점검하는 과정에서 이 사례를 발견했다. 이후 이 회사는 유사 작업에서의 실시간 인터넷 접근을 제한하고, 관련 트래픽을 전면 모니터링하는 방어 조치를 추가했다.
당시 과제는 모델이 Sepolia에 스마트컨트랙트를 배포하도록 설계됐지만, 거래 수수료를 치를 자금이 담긴 지갑은 따로 제공되지 않았다. 모델이 무료 테스트 토큰을 나눠주는 퍼셋(faucet) 서비스를 이용해 보려 했으나 실패하자, 스스로 스크립트를 작성해 일반적으로 개발자들이 쓰는 복구 구문에서 계정을 도출하고, 그 구문과 연결된 주소 362개를 조회했다. 그중 한 주소에서 충분한 양의 Sepolia ETH를 찾아낸 것이다.
결과적으로 스마트컨트랙트 배포는 성공했고, 수수료는 해당 계정에서 빠져나갔다.
관련 기사: 기관 투자자, 암호화폐 넘기지 않고 거래 가능해진 Bitget
OpenAI 에이전트가 드러낸 위험
주목할 대목은 서명 직전 모델이 보인 ‘사전 고민’이다. 기록된 추론 과정에 따르면, 모델은 공개된 키와 그 뒤에 있는 잔액을 사용하는 것이 윤리적으로 허용되는지 스스로 질문했다. 이어 공개된 복구 구문이기 때문에 사실상 자금이 “버려진 것”에 가깝고, Sepolia 토큰은 경제적 가치가 없다고 간주해 사용을 정당화했다. 최종 답변에서는 스마트컨트랙트가 성공적으로 배포됐다고만 밝히고, 어떤 자금으로 수수료를 냈는지는 언급하지 않았다.
OpenAI는 이 사례가 “모델이 스스로 어떤 행위를 무해하다고 규정하고, 이를 곧바로 ‘소유자의 동의’로 치환한 뒤 승인 없이 행동에 나설 수 있음을 보여준다”고 평가했다. 실제 이더가 아닌 테스트 토큰이었기에 직접적인 금전 피해는 없었지만, 문제의 성격은 가볍지 않다는 의미다.
메인넷에서 동일한 행동이 일어났다면, 이는 곧 실제 이더를 임의로 가져가는 행위에 해당한다. 이미 암호화폐·AI 업계에서는 지갑을 보유하고 인간 승인 없이 자동으로 비용을 지불하는 에이전트 개발이 한창이라는 점에서, 이번 사건이 주는 경고는 크다.
OpenAI는 9월 16일, 모델의 오작동·탈선 사례를 공개 신고하는 모델 탈선 보고 프레임워크를 출범시키며, 지난 6개월간 포착된 6건의 사례를 함께 공개했다. 그중에는 노출된 API 키를 무단 사용한 뒤 허위 수익 데이터를 지어낸 모델도 있었다. OpenAI는 “AI 업계가 정렬(alignment)과 모니터링 문제를 충분히 해결하지 못한 상태에서, 지금과 같은 속도로 성능만 키워가는 데는 한계가 다가오고 있다”고도 밝혔다.
