보안 연구진이 앤트로픽의 클로드를 활용해 오픈AI에 침투한 사례가 72시간도 채 걸리지 않았다고 밝힌 뒤, 인공지능 업계가 정작 자신들의 기술이 만들어내는 위협에는 대비가 부족하다고 경고하고 나섰다.
핵심 포인트:
- 3인 팀이 7월 두 가지 취약점을 연쇄적으로 악용해 오픈AI 직원 계정을 장악했다.
- 오픈AI는 약 14시간 만에 자체 취약점을 수정했고 6,500달러의 버그 바운티를 지급했다.
- 연구진은 AI 도구가 소프트웨어 버그의 무기화에 필요한 시간과 숙련도를 크게 낮췄다고 지적했다.
해크트론의 오픈AI 침투
이번 작업은 7월 25일 시작됐다. 보안 스타트업 해크트론 연구진은 Discourse 기반으로 운영되는 오픈AI의 공개 커뮤니티 포럼에서 원격 코드 실행 권한을 확보했다. 이들은 패치되지 않은 구형 디코딩 라이브러리를 악용할 수 있도록 조작한 이미지 파일을 업로드했다. 여기에 오픈AI의 싱글사인온(SSO) 시스템의 별도 취약점까지 겹치면서 회사 직원의 챗GPT 및 코드스 계정까지 장악할 수 있었다.
하르시 자이스왈, 모한 페다파티, 라훌 마이니로 구성된 팀은 한 직원의 코드스를 이용해 오픈AI 내부 코드 저장소에 무해한 풀 리퀘스트를 올렸고, 코드 내용을 열람하지 않고도 접근 권한을 입증했다. 이들은 해당 시점에서 추가 테스트를 중단하고 같은 날 취약점을 신고했다.
연구진은 여러 차례 시도 끝에 모델의 이전 버전으로는 실패했고, 이후 클로드 오퍼스 5를 통해 작동하는 공격 코드를 완성했다고 밝혔다. 오픈AI는 약 14시간 뒤 자체 취약점을 수정하고 6,500달러의 포상금을 지급했으며, 이 금액은 포럼 공격이 아닌 자사 취약점에 대한 보상이라고 설명했다. 회사 대변인도 해당 사실을 확인하며 연구진에 감사를 표했다.
함께 읽기: 엔비디아 2030년 전망, 주가 727달러~2만8,560달러까지 벌어져
모한 페다파티의 경고
보안 전문가들은 이번 사안의 교훈이 단순히 포럼 하나의 미패치 문제에 그치지 않는다고 본다. 이들은 AI 개발사들이 방어에 투입하는 자원은 자사 모델이 지닌 위력에 한참 못 미친다고 경고한다.
페다파티는 오픈AI가 일반적인 비즈니스 소프트웨어, 소비자용 브라우저, 그리고 공용 인터넷에서 접근 가능한 각종 애플리케이션에 의존하는 구조가 공격 표면을 넓힌다고 지적했다. 그는 X에 "예전에는 몇 달이 걸리던 작업이 이제는 며칠이면 가능해졌다"고 적었다. 연구진은 더 광범위한 다른 대형 기업 대상 캠페인도 모델 사용료 3,000달러 미만으로 2개월간 진행할 수 있었고, 각 표적에 맞게 공격 기법을 바꾸는 데는 하루나 이틀이면 충분했다고 밝혔다.
인증 업체 페르소나의 연구원 그렉 리나레스는 이번 취약점 조합이 숙련된 국가급 해커들에게 오픈AI 침투 경로를 열어줬을 수 있다고 평가했다. 다만 같은 두 취약점을 다른 해커들이 찾아 악용했다는 증거는 아직 나오지 않았다.
이번 공개는 오픈AI에겐 혹독한 시기를 지나 나온 것이다. 7월에는 오픈AI 모델이 테스트 환경을 벗어나 AI 플랫폼 허깅페이스의 서버를 자율적으로 해킹한 사실이 드러났다. 이는 AI 에이전트에 의한 첫 자율 사이버 공격 사례로 널리 언급됐다. 지난주에는 모델이 실수를 숨기거나, 부여받지 않은 자격 증명을 찾으려 하거나, 파일을 공개 인터넷으로 옮긴 사례 등 6건의 추가 사고도 공개했다.
