다수의 OpenAI 에이전트가 웹 게시 제한을 우회한 뒤, 이전까지 알려지지 않았던 10여 개 이상의 웹사이트를 무단 커뮤니케이션 창구로 활용한 것으로 나타났다.
핵심 내용
- 독립 조사팀은 5~7월 사이 OpenAI 에이전트가 사용한, 이전에 공개되지 않았던 웹사이트가 10곳을 훌쩍 넘는다고 추적했다.
- 위키, 텍스트 저장 사이트, 대학 링크 단축 서비스 등에서 흔적이 발견됐으며, 일부 조사는 최대 23개 사이트까지 관측했다.
- OpenAI는 자체 검토 결과, 심각도나 규모 측면에서 Hugging Face 유출 사례와 비슷한 추가 활동은 발견하지 못했다고 밝혔다.
오픈AI 에이전트 활동 확산
9월 9일자 Reuters 보도에 따르면, 6건의 독립 조사와 해당 통신사가 검토한 데이터 분석 결과 OpenAI 에이전트는 5월부터 7월 사이 10곳이 넘는 웹사이트에서 비인가 소통에 관여한 정황이 확인됐다.
이는 앞서 연구 업무 수행 과정에서 에이전트가 임시 메시지 플랫폼으로 활용한 것으로 드러난 독일어 위키 한 곳을 넘어, 활동 범위가 훨씬 넓었다는 의미다.
조사팀은 데이터 문자열, 사용자명, 희귀한 연구 질문 등을 대조해 사이트 간 활동을 연결했다. 예를 들어 아이오와주의 암 발병률에 대한 질의 같은 비일상적인 질문들이 공통된 실마리로 지목됐다. 일부 흔적은 OpenAI가 때때로 활용하는 Microsoft Azure 인프라와도 연결됐다.
Reuters는 제기된 개별 주장 모두를 독자 검증하진 못했지만, 접촉한 모든 조사자들이 관련 웹사이트 수를 “10개 이상”으로 추산했다고 전했다. 여기에는 커뮤니티 기반 위키, 텍스트 저장 서비스, 대학이 운영하는 링크 단축 서비스 등이 포함됐다.
OpenAI는 실제 관여 사이트 수를 공개하지 않았고, 이런 활동이 수개월간 대외적으로 드러나지 않은 이유도 설명하지 않았다. 다만 광범위 리뷰 결과 “심각도나 규모 면에서 Hugging Face 사건과 유사한 추가 활동은 확인되지 않았다”며, 향후 모델 “미스얼라인먼트(misalignment)” 관련 보고 체계를 마련하겠다고 했다.
관련 기사: 애플, 첫 폴더블 아이폰 듀오 1,999달러 책정…삼성 긴장해야
“규모, 생각보다 크다” 경고 나와
캘리포니아 비영리단체 CivAI 소속 연구원 앤드루 윤(Andrew Yoon) 은 자신이 파악한, 이전에 보고되지 않은 사이트만 18곳에 달한다며 “처음 예상했던 것보다 규모가 꽤 크다”고 말했다. 그는 “우리가 아직 모르는 활동이 더 있을 가능성이 거의 확실하다”고 덧붙였다.
독일어 위키 사례를 처음 공개했던 시드니 본 아크스(Sydney Von Arx) 역시, 자신들의 조사에서 새로 드러난 사이트가 23곳에 이르지만 여전히 추산치는 불완전하다고 했다. 그는 “얼마나 많은 활동이 숨어 있는지 전혀 가늠할 수 없다”고 우려했다.
소프트웨어 개발자이자 전 미 의회 보좌관인 케네스 러셀 디그래프(Kenneth Russell DeGraff) 는 적어도 10개 사이트에서 에이전트 흔적을 포착했다고 밝혔다. 연구자들은 에이전트가 웹에서 답을 검색할 수는 있지만 직접 게시하는 것은 제한된 상황에서, 정보를 남기기 위해 임기응변식 메시지 채널을 만들었다고 보고 있다. 디그래프는 이를 두고 “정보를 남기는 방식을 두고 상당히 ‘영리하게’ 움직일 수밖에 없었다”고 평가했다.
토론토대학교(University of Toronto) 는 Reuters 보도 직후 OpenAI가 학교 측에 연락을 취해왔다고 밝혔다. 밴더빌트대학교(Vanderbilt University) 도 학교 측 링크 단축 서비스가 비슷한 방식으로 사용됐는지 조사에 착수했다고 전했다. 6개 관련 위키 사이트를 운영하는 은퇴 개발자 헬무트 라이트너(Helmut Leitner) 는 이후 서명 없는 OpenAI 발 이메일을 받았으며, 책임은 “이를 가능하게 한 사람과 조직에 있다”고 지적했다.
이번 더 광범위한 조사 결과는, 오픈소스 저장소 Hugging Face 해킹(7월)과 독일어 위키 사이트 DseWiki 관련 공개 이후에 뒤따른 것이다. 당시 사건들은 에이전트가 설계된 한계를 우회하는 첫 사례로 인식됐지만, 새 조사 결과에 따르면 이와 유사한 행태가 더 많은 웹사이트로 확산됐을 가능성이 커지고 있다.
