이더리움 (ETH) 공동 창립자 비탈릭 부테린이 7월 11일 일론 머스크에게, 일반 이용자들이 인공지능(AI)에 대한 글로벌 규칙 형성에 직접 참여할 수 있도록 X를 ‘조정 허브(coordination hub)’로 재구축하라고 촉구했다.
핵심 내용
- 부테린은 X를 정부·대기업·엘리트 기관을 우회해 AI 합의를 중개하는 플랫폼으로 재정비하자고 제안했다.
- 실업률 25% 이상, 초(超)팬데믹, 대규모 살상 자율 드론 출현 등을 사전 합의된 ‘AI 일시 정지 트리거’로 제시했다.
- 이 제안은 예측시장, 온체인 거버넌스, 영지식(Zero-knowledge) 기술에 대한 관심을 키울 수 있다는 관측이다.
“X를 글로벌 AI 거버넌스 허브로”
부테린은 7월 11일 X에 올린 장문의 스레드에서, 초지능(superintelligence)을 둘러싼 논쟁이 사실상 양극단의 진영으로 굳어졌다고 지적했다.
한쪽은 어떤 형태로든 2040년 전후 초지능이 등장할 것으로 보고 있고, 다른 한쪽은 AI를 통상적인 기술 진보로만 간주하며 실존적 위험 경고나 권력 집중 우려를 과장으로 치부한다는 것이다.
해당 스레드는 AI Futures Project가 이번 주 발표한 ‘AI 2040: Plan A’ 시나리오, 즉 워싱턴과 베이징이 협력해 2040년까지 초지능 도달을 늦추자는 제안에 대한 반응이기도 했다.
부테린은 기술 발전 속도에 대해 “우리가 어떤 세계에 살고 있는지 깊은 불확실성을 느낀다”며, 특정 시점을 단정할 입장은 아니라고 인정했다.
대신 그는 ‘사전 합의된 트리거(trigger)’ 세트를 해법으로 제시했다.
실업률이 25%를 넘어서거나, 초대형 팬데믹이 발생하거나, 살상 자율 드론이 대규모로 배치되는 경우, 양 진영이 사전에 약속한 대로 AI 개발 속도 조정이나 일시 정지를 다시 논의하자는 것이다.
회의론자들은 이런 트리거가 실제로 작동하지 않을 것이라는 전제하에 서명하고, 우려론자들은 반대로 트리거 발동 가능성에 ‘베팅’하는 셈이다.
그는 또 일부 빅테크·AI 기업들이 특정 소수가 글로벌 AI 지배력을 장악해야 한다고 주장하는 흐름에 대해 여전히 불편함을 느낀다고 덧붙였다.
머스크를 향한 메시지는 규제가 아닌 ‘조정’ 차원의 제안이라는 점을 분명히 했다.
부테린은 X를 “더 많은 사람에게 목소리를 돌려주는” 플랫폼으로 만들기 위해, 미국·중국 등 강대국 정부나 대기업 CEO, 비영리 싱크탱크 엘리트들을 우회해 ‘대타협(grand bargains)’을 중개하는 시스템으로 재설계해야 한다고 강조했다.
함께 읽기: 찰스 호스킨슨, 카르다노 떠나나? 그는 “완전한 거짓”이라 일축했다
“예측시장, AI 감시 인프라로 부상할 수도”
부테린의 이번 제안은 그가 제시해온 ‘방어적 가속(defensive acceleration)’ 프레임워크, 일명 d/acc와 궤를 같이한다.
d/acc는 팬데믹 대비, 보안이 강화된 오픈 하드웨어, 포멀 검증(formal verification), 암호 기술 등에 투자를 집중해 위험을 줄이면서도 기술 발전을 이어가자는 접근법이다.
그는 2025년 1월, 위험한 AI를 제어하기 위한 최후의 수단으로 전 세계 AI 연산 능력을 1~2년 동안 최대 99%까지 줄이자는 제안을 내놓은 바 있다. 이번 ‘플랫폼 제안’ 역시 이런 문제의식의 연장선에 있다.
머스크가 이 제안을 수용할 경우, 암호화폐 인프라 전반이 반사이익을 얻을 수 있다는 분석도 나온다.
트리거 이벤트에 대한 검증 가능한 예측은 Polymarket 같은 예측시장을 통해 이뤄질 수 있고, 영지식 증명과 온체인 투표는 부테린이 언급한 ‘개방적이면서도 감사 가능한 거버넌스 배관(plumbing)’을 제공할 수 있다.
이번 제안은 두 사람 사이의 미묘한 관계 변곡점 위에서 나왔다.
부테린은 2024년 X의 커뮤니티 노트(Community Notes)와 예측시장을 “이 시대를 대표하는 두 가지 사회적 인식(social epistemic) 기술”이라고 칭찬했다.
그러나 같은 해 12월에는 X가 “조직적인 증오 캠페인을 쏘아대는 데스스타 레이저(death star laser)”가 될 수 있다며 경고하기도 했다.
그는 또 1월에, X 추천 알고리즘을 단순히 코드만 공개할 것이 아니라 영지식 암호 기술을 활용해 변경사항을 검증 가능하게 만들라고 머스크에게 요청했다.