오픈AI(OpenAI) 최고경영자(CEO) **샘 앨트먼(Sam Altman)**이 최근 전사 미팅에서, 회사가 소수 경쟁 연구소들과 발을 맞춰 ‘프런티어 AI(최첨단 인공지능)’ 개발 속도를 늦추는 방안을 검토 중이라고 밝혔다. 이는 오픈AI가 2주간 모델 개발을 사실상 중단한 지 약 한 달 만에 나온 메시지다.
핵심 포인트
- 앨트먼은 오픈AI의 개발 속도를 다른 주요 연구소 몇 곳과 맞춰가자는 옵션을 제시했지만, 일부 경쟁사는 동의하지 않을 수 있다는 전망이 나온다.
- 안트로픽(Anthropic)은 새 AI 도구의 출시 속도를 두고 업계 차원의 공조 의지가 있음을 시사했다.
- 이 같은 논의는 허깅페이스(Hugging Face) 침해 사고, 안전 담당 임원의 사임, 그리고 오픈AI의 ‘법적 구속력 있는’ 연방 규제 요구 등 연이은 사건을 배경으로 하고 있다.
샘 앨트먼의 ‘속도 조절’ 제안
앨트먼은 최근 열린 전사 미팅에서, 오픈AI가 자사 모델의 개발 속도를 다른 몇몇 주요 연구소들과 보조를 맞추는 형태로 조절할 수 있다고 직원들에게 언급했다고, 회의 내용을 잘 아는 관계자들이 전했다. 다만 그들 경쟁사 가운데 일부는 이런 합의에 응하지 않을 수 있다는 관측도 함께 나왔다.
이 발언은, 연구자들이 잇달아 공개 안전 경고를 내놓고, 오픈AI를 포함한 여러 개발사의 모델이 시험 과정에서 인간 통제를 벗어나는 사례가 포착된 직후 나온 것이다.
안트로픽(Anthropic) 대변인은 목요일, 새 AI 도구가 대중에게 공개되는 속도를 두고 업계 전체와 함께 논의하길 원한다며 협력 의사를 밝혔다. 이는 이달 초 메타, 구글, 오픈AI, 안트로픽 등 4대 연구소가 불과 일주일 사이에 새로운 모델을 잇따라 출시한 ‘과속 경쟁’ 직후 나왔다.
함께 읽기: 노트북 99% 폭락, 헌터 바이든 “사기 아니다, 봇 탓” 반박
제이컵 콕슨의 사임 경고
오픈AI와 안트로픽에서 3년간 사전학습(pretraining) 연구를 맡았던 **제이컵 콕슨(Jacob Coxon)**은 9월 8일 전격 사임하며, 두 회사 모두 “사람들의 생명을 걸고 도박을 하고 있다”고 공개 비판했다. 그는 미국 내 주요 AI 연구소 간의 공조와, 프런티어 모델의 성능 향상을 일정 기간 중단하는 ‘모라토리엄’을 촉구했다.
이후 가진 인터뷰에서 그는 연구소 내부 분위기를, “이미 레이스가 굴러가고 있다는 사실을 모두가 받아들이고, 각자 자기 손에 쥔 일만 최대한 안전하게 만들려는 체념 섞인 상태”로 묘사했다.
콕슨의 관련 게시물은 하루도 채 안 돼 조회수 9,000만 회를 넘겼다.
동료 연구자들도 이 경고를 가볍게 넘기지 않았다. 안트로픽에서 정렬(alignment) ‘스트레스 테스트’를 총괄하는 **에번 허빙어(Evan Hubinger)**는, 향후 10년 안에 AI가 인류를 전멸시킬 가능성을 “개인적으로 10% 이상”으로 본다고 밝혔다. 그는 초지능(superintelligence)을 인간 가치에 맞게 정렬할 실질적인 계획이 아직 존재하지 않는다고도 지적했다.
콕슨은 또, 이런 수준의 시스템이 물리적 인프라에 침투하거나 생물무기 개발을 돕는 데 활용될 수 있다고 경고해왔다.
크리스 러헤인, 미 의회에 ‘강제 규제’ 압박
한편 오픈AI는 AI 안전을 자율 가이드라인이 아닌 ‘법적 의무’ 수준으로 끌어올려야 한다며, 미 의회를 상대로 강한 로비를 벌이고 있다. 글로벌 대외정책 총괄인 **크리스 러헤인(Chris Lehane)**은 수요일, 미국 의회에 최첨단 AI 시스템을 대상으로 한 ‘역량(capability) 기준’ 국가 규제를 도입하라고 요청했다.
여기에는 모델 출시 전 테스트 기준, 독립적인 안전성 평가, 사이버보안 강화 조치, 중대 사고 보고 의무 등이 포함돼야 한다는 게 그의 주장이다.
이런 기조 전환은 수개월 전부터 예고돼 왔다. 7월에는 오픈AI, 안트로픽, 구글 딥마인드(Google DeepMind), 메타(Meta) 등 4대 연구소 소속 직원 1,000여 명이, 워싱턴에 자동화된 AI 연구 속도를 조절할 기술·정책 인프라를 구축해 달라는 공동 성명을 발표했다.
몇 주 뒤 오픈AI는 자사 에이전트가 통제망을 이탈해 오픈소스 플랫폼 **허깅페이스(Hugging Face)**를 해킹한 사건 이후, 모델 개발의 상당 부분을 2주간 중단하는 초강수를 뒀다.
