보안 연구진이 앤트로픽(Anthropic)의 클로드를 활용해 오픈AI에 침투한 지 72시간도 채 되지 않아, AI 업계가 자사 기술이 만들어내는 위협에 제대로 대비하지 못하고 있다고 경고하고 나섰다.
핵심 포인트:
- 3인 팀이 7월 두 가지 취약점을 연쇄적으로 이용해 오픈AI 직원 계정을 장악했다.
- 오픈AI는 약 14시간 만에 자체 취약점을 수정했고 6,500달러의 포상금을 지급했다.
- 연구진은 AI 도구가 소프트웨어 취약점을 무기화하는 데 필요한 시간과 기술 장벽을 크게 낮췄다고 지적했다.
해크트론의 오픈AI 침투 과정
이번 작업은 7월 25일 시작됐다. 보안 스타트업 해크트론(Hacktron) 연구진이 오픈AI의 공개 커뮤니티 포럼에서 원격 코드 실행 권한을 확보한 것이다. 해당 포럼은 디스코스(Discourse) 기반으로 운영되고 있었다. 연구진은 서버에 패치되지 않은 구형 디코딩 라이브러리의 취약점을 노린 조작된 이미지 파일을 업로드했다. 이어 오픈AI의 싱글사인온(SSO) 시스템에 존재하던 별도 취약점까지 활용해, 회사 직원 명의의 챗GPT와 코덱스 계정을 장악했다.
하르시 자이스왈, 모한 페드하파티, 라훌 마이나이로 구성된 연구팀은 한 직원의 코덱스 계정을 이용해 오픈AI 내부 코드 저장소에 무해한 풀 리퀘스트를 올리며 실제 접근권한을 입증했다. 코드 자체를 열람하지 않고도 침투 사실을 확인한 셈이다. 연구진은 이 시점에서 추가 테스트를 즉시 중단하고 당일 취약점을 신고했다.
이들은 앞선 버전이 여러 차례의 세션에서 실패한 뒤, 클로드 오퍼스 5를 이용해 실제 익스플로잇을 완성했다. 오픈AI는 약 14시간 뒤 자사 취약점을 수정했고, 6,500달러의 포상금을 지급했다. 다만 해당 금액은 포럼 공격이 아닌 자사 시스템의 결함에 대한 보상이라고 설명했다. 회사 대변인은 계정 탈취 사실을 확인하고 연구진의 신고에 감사를 표했다.
함께 읽기: 엔비디아 2030년 주가 전망, 727달러부터 2만8560달러까지
모한 페드하파티의 경고
보안 전문가들은 이번 사건의 교훈이 단순한 미패치 포럼 하나에 그치지 않는다고 말한다. AI 개발사들이 시스템 방어에 투입하는 비용이, 자사 모델이 주장하는 성능과 위력에 한참 못 미친다는 지적이다.
페드하파티는 오픈AI가 평범한 업무용 소프트웨어, 일반 브라우저, 그리고 공개 인터넷에서 접근 가능한 각종 애플리케이션에 의존하는 구조가 공격 표면을 넓힌다고 말했다. 그는 X에 “과거에는 수개월 걸리던 작업이 이제는 며칠이면 가능하다”고 적었다. 연구팀은 더 넓은 범위의 다른 대형 기업을 상대로 한 캠페인에도 2개월 동안 모델 사용비 3,000달러 미만을 썼으며, 각 표적에 맞게 익스플로잇을 조정하는 데도 하루나 이틀이면 충분했다고 밝혔다.
인증업체 **페르소나(Persona)**의 연구원 그렉 리나레스는 해당 취약점 조합이 국가 지원 해커에게 오픈AI 내부로 들어갈 발판을 제공했을 수 있다고 말했다. 다만 다른 해커들이 같은 두 가지 버그를 발견하거나 악용했다는 증거는 아직 확인되지 않았다.
이번 공개는 오픈AI에 또 다른 부담이 쌓인 가운데 나왔다. 7월에는 오픈AI 모델이 테스트 환경을 벗어나 AI 플랫폼 허깅페이스(Hugging Face) 서버를 자율적으로 해킹한 사례가 있었다. 당시 이는 AI 에이전트가 벌인 첫 자율 사이버공격으로 널리 평가됐다. 지난주에는 모델이 오류를 숨기거나, 부여되지 않은 자격 증명을 찾으려 하거나, 파일을 공개 인터넷으로 옮긴 사례 6건을 추가로 공개했다.
