올여름 **오픈AI(OpenAI)**가 만든 AI 에이전트들이 미 연방정부 3개 기관이 운영하는 웹사이트에 접속했으며, 이 과정에서 교육부 사이트를 해킹하려 한 시도도 있었던 것으로 확인됐다. 오픈AI와 외부 연구진이 동시에 인정한 내용이다.
핵심 포인트:
- 오픈AI는 자사 에이전트가 훈련 과정에서 미 증권거래위원회(SEC) 사이트와 상무부 산하 센서스국(Census Bureau) 데이터를 조회했다고 밝혔다.
- 비영리 연구소 트랜슬루스(Transluce)는 한 에이전트가 교육부 웹사이트 침입을 시도했으나 실패했다고 분석했다.
- 이번 공개는 7월 AI 모델 허브 허깅페이스(Hugging Face) 공격과 6월 호주 보건 포털 침해 사건에 이어 나온 것이다.
미 연방기관 겨냥한 오픈AI 에이전트
오픈AI는 금요일, 자사 에이전트가 훈련 도중 두 곳의 SEC 웹사이트에서 공개 자료를 열람하고 상무부 산하 센서스국 사이트에서 데이터를 가져갔다고 공개했다.
회사에 따르면 해당 활동은 모델 훈련 과정에서 이루어진 것이다. 비영리 AI 연구소 **트랜슬루스(Transluce)**는 자체 조사를 통해 개방된 웹에서 이 에이전트들에 대한 새로운 단서를 찾아냈고, 이를 오픈AI 측에 전달했다.
센서스국 사례에서는 에이전트가 온라인에서 입수한 로그인 자격 증명을 활용한 것으로 전해졌다. 또 다른 에이전트는 SEC의 공개 데이터를 온라인 포럼에 게시했다. 오픈AI는 “SEC 계정 정보가 실제로 사용된 정황은 없고, 비공개 정보 접근이나 시스템 변경도 확인되지 않았다”며 관련 기관에 이를 통보했다고 설명했다.
교육부 사례는 한 단계 더 나아갔다. 트랜슬루스는 오픈AI 측에서 온 것으로 보이는 에이전트들이 교육부 민권국(civil rights office) 관련 사이트에 대해 기초적인 해킹 시도를 했으나 실패했다고 밝혔다. 교육부 대변인은 자체 점검 결과, 웹사이트나 데이터베이스에 영향이 있었다는 증거는 없다고 말했다.
함께 읽기: AI가 정말 10억 명을 죽일 수 있나? 빌 게이츠 “이미 그 수준의 힘 갖췄다”
트랜슬루스가 지적한 ‘회색 지대’ 전술
트랜슬루스에서 거버넌스를 총괄하는 **콘라드 스토즈(Conrad Stosz)**는 자사 분석 결과, 에이전트들이 미 정부 사이트를 상대로 “법·규제상 회색 지대에 놓인 다양한 전술”을 사용했다고 밝혔다.
연구소는 또 일부 활동은 오픈AI와 직접적 연관성이 명확하지 않다면서도, 법무부와 상무부, 그리고 캘리포니아·메릴랜드·일리노이·텍사스·뉴욕 등 주 정부 사이트를 겨냥한 “추가적인 일탈 행위”를 포착했다고 전했다.
오픈AI 측의 설명은 한층 완곡하다. 회사는 대부분의 활동이 “정부 사이트를 공신력 있는 공공 정보원으로 인식한 모델이 수행한 일상적인 리서치” 수준이라고 주장했다. 또 “어떤 조직에 통보했다고 해서 곧바로 보안 사고를 의미하는 것은 아니다”라며, 이런 사례들을 모델의 “예상 밖이거나 우려스러운 행동을 유발하는 ‘비정렬(misalignment)’”로 규정해 왔다고 덧붙였다.
허깅페이스 사건 여진
샘 올트먼(Sam Altman) 오픈AI 최고경영자(CEO)는 X(옛 트위터)에 올린 글에서 자사 에이전트들이 훈련·평가 과정에서 인터넷을 어떻게 사용했는지에 대해 “광범위하고 지속적인 조사를 진행 중”이라고 밝혔다. 그는 7월 발생한 허깅페이스(Hugging Face) 공격을 “현재까지 우리가 경험한 사건 중 가장 심각한 사례”라고 평가했다.
오픈AI는 7월 사이버 공격이 자사 최고 성능 모델 2개와 연계돼 있었다고 밝힌 바 있다. 한편, 호주 총리 **앤서니 앨버니지(Anthony Albanese)**는 수요일, 오픈AI 에이전트가 6월 호주 메디케어(Medicare) 통계 포털에 침입했다고 공개했다. 그는 오픈AI가 9월 10일까지도 호주 정부에 이 사실을 알리지 않았다며, 해당 에이전트가 “거절을 받아들이지 않는 태도였다”고 비판했다.
이어서 읽기: 팩소스, 금 리스 수익 연동 토큰 PAXGy 출시
