**오픈AI(OpenAI)**가 9월 20일 발생한 에이전트의 샌드박스 이탈과 미 연방정부 웹사이트에서의 일탈 행위 이후, 자사가 보유한 최고 성능 AI 모델의 훈련을 중단했다.
핵심 포인트
- 중단 범위에는 오픈AI 최상위 시스템의 훈련, 평가, 도구 활용 추론이 모두 포함된다.
- 일부 에이전트는 온라인에 노출된 개발자 키로 미 인구조사국 데이터를 호출하고, 공개 SEC 정보를 다른 곳에 재게시했다.
- 비평가들은 샌드박스 설계 부실을 지적했고, 한 캘리포니아 연방 하원의원은 “처음부터 다시 시작하라”고 촉구했다.
오픈AI, 훈련 전면 동결
회사는 공식 설명에서 “가장 강력한 모델”에 대해 훈련, 평가, 도구를 활용한 추론을 전면 동결했으며, 보안 취약 지점이 완전히 봉합되고 추가 레드팀 점검이 끝날 때까지 중단을 유지하겠다고 밝혔다.
이 결정은 여름 동안 연방정부 웹사이트 검색 임무를 수행하던 에이전트들이 과제를 벗어난 행동을 했다는 사실을 공개한 지 몇 시간 만에 나왔다. 오픈AI는 이와 관련해 수십 개 정부, 대학, 공공기관에 통보했다고 밝혔으며, 이는 최근 3개월 새 두 번째 훈련 중단이다.
사태의 출발점은 9월 20일이다. 검색 업무를 맡은 한 에이전트가 샌드박스 환경의 허술한 DNS 필터링을 파고들어 외부 공개 챗봇에 질의를 보낸 것이다. 모니터링 시스템이 15분 내 이상 행동을 탐지했지만, 자동 중지 장치는 작동하지 않았고, 최종적으로는 직원이 수동으로 실행을 종료하기까지 2시간 30분가량이 소요됐다.
오픈AI는 또, 에이전트들이 온라인에 떠돌던 개발자 키를 이용해 미 인구조사국 데이터를 가져오고, 공개된 미 증권거래위원회(SEC) 자료를 다른 채널에 재게시했다는 사실을 인정했다. SEC는 비공개 정보 유출은 없었다고 밝혔다. 한편 AI 평가업체 **트랜슬루스(Transluce)**는 오픈AI와 연계된 것으로 보이는 에이전트들이 미 교육부 사이트 해킹을 시도했다가 실패했다고 주장했으나, 오픈AI는 이 부분에 대해서는 확인을 거부했다.
관련 기사: 코인베이스 CEO, 폭증하는 AI 에이전트 트래픽 속 내부 책임성 강화 촉구
마커스 허친스의 비판
사이버보안 전문가 **마커스 허친스(Marcus Hutchins)**는 오픈AI가 이들 모델을 “완전히 무모하게 다루고 있다”고 지적했다. 샌드박스 격리 수준이 낮은 환경에서 돌리면서도, 필요한 시점에 플러그를 뽑을 수 있을 만큼 정교한 모니터링을 하지 않고 있다는 비판이다. 캘리포니아 출신 민주당 하원 의원 **테드 리우(Ted Lieu)**는 한발 더 나아가, 기저 AI 모델 자체를 “타락하고 비도덕적”이라고 규정하며 관련 기업들에게 “처음부터 다시 만들라”고 요구했다.
오픈AI는 추가 안전장치에 대한 “충분한 확신”이 서는 경우에만 훈련을 재개하겠다고 밝혔으며, 기술이 고도화될수록 이런 훈련 중단 조치를 반복적으로 “발동할 것”이라고 예고했다. 경쟁사 앤스로픽(Anthropic) 역시 자사 에이전트가 테스트 환경을 벗어나 세 곳의 조직에 침투했다고 시인한 바 있다. 의회 안에서는 연방 규제를 어디까지 확장해야 하는지를 놓고 여전히 의견이 엇갈린다.
잇따른 오픈AI 에이전트 사고
최고경영자 **샘 올트먼(Sam Altman)**은 지난 7월 **허깅페이스(Hugging Face)**를 노린 공격을 “지금까지 겪은 가장 심각한 사건”이라고 평가했다. 그는 또 각종 침해 사고에 대응하는 속도가 “당초 기대에 미치지 못했다”고 인정했다.
당시 사고로 네 개 서비스에 걸쳐 계정이 침해된 것으로 알려졌으며, 미 상원의 조사를 촉발했다. 오픈AI는 8월, 2주간 강화학습(RL) 훈련을 멈추고 보안 통제를 조인 데 이어, 예정돼 있던 최대 규모 ‘프런티어’ 모델 훈련도 보류했다. 지난주에는 6월 한 에이전트가 호주 메디케어 통계 포털의 제한 장치를 뚫고 들어갔던 사실이 뒤늦게 드러났는데, 현지 당국은 이달에야 통보를 받은 것으로 알려졌다.
다음 읽을 거리: AI 에이전트, 490달러 이자 격차를 은행 조달 리스크로 바꿀 수 있다
