OpenAI는 맞춤형 칩 계획을 통해 Nvidia의 하드웨어 지배력에 도전하며, AI 스택을 애플식으로 강하게 통제하는 방향으로 움직이고 있다.
핵심 포인트:
- OpenAI와 Broadcom은 AI 워크로드용 맞춤형 추론 프로세서인 Jalapeño에 대한 새로운 세부 정보를 공개했다.
- 이 칩은 단순한 엔비디아 의존도 축소가 아니라, 더 넓은 전략의 일부를 시사한다.
- 인프라가 경쟁의 중심이 되면서, 주요 AI 기업들은 자체 설계 실리콘을 구축하고 있다.
OpenAI 칩
OpenAI가 Broadcom과 함께 개발 중인 Jalapeño는 엔비디아가 여전히 AI 붐의 핵심 하드웨어 공급업체이기 때문에 관심을 끌고 있다.
이 프로세서는 추론 단계에 초점을 맞춘다. 추론은 모델이 학습을 마치고 실제 사용자에게 응답하기 시작하는 단계다. 학습은 모델을 만들어 내는 과정이고, 추론은 사용자가 매일 보내는 프롬프트를 처리해 사용자 경험을 구성하는 과정이다.
이 구분이 중요한 이유는, 그 상호작용이 엄청난 규모로 일어나기 때문이다. 속도, 전력 사용량, 네트워킹이 조금씩만 개선돼도 비용을 낮추면서 AI 시스템을 더 빠르고 민첩하게 느끼도록 만들 수 있다.
이번 행보는 OpenAI가 Apple의 전략을 차용하고 있음을 시사한다. 애플은 외부 프로세서에 시스템을 맞추기보다 핵심 하드웨어와 소프트웨어를 함께 설계함으로써 자사 제품에 대한 통제력을 키웠다.
OpenAI는 그 논리를 AI에 적용하는 것으로 보인다. 자사 모델을 중심으로 설계된 칩은 ChatGPT와 향후 시스템이 어떻게 동작하는지에 대해 더 큰 통제력을 제공할 수 있다.
아직 초기 단계다. OpenAI는 칩의 광범위한 배치가 임박했다고 말하지 않았으며, 이 칩은 장기적인 인프라 전략의 출발점으로 보는 것이 타당하다.
관련 기사: OpenAI의 Mark Chen, “스스로 연구를 수행하는 AI가 곧 현실에 다가서고 있다”
엔비디아에 가해지는 압력
단기적으로 Nvidia가 곧장 위기를 맞을 이유는 크지 않다. 엔비디아의 프로세서는 여전히 오늘날 AI 인프라의 상당 부분을 뒷받침하고 있으며, 해당 분야 전반에서 수요는 강하다.
그러나 OpenAI의 칩 계획은 더 넓은 흐름 속에 놓여 있다. Google은 Tensor Processing Unit을 구축했고, Amazon은 Trainium과 Inferentia를 개발했으며, Microsoft는 AI 칩에 투자해 왔고, Meta 역시 맞춤형 가속기를 추진해 왔다.
이들이 내린 공통된 결론은 분명하다. AI의 중요성이 커질수록, 어느 회사도 다른 회사의 하드웨어 로드맵에만 전적으로 의존하고 싶어 하지 않는다는 것이다.
애플이 자체 프로세서로 전환했다고 해서 Intel이 하루아침에 무너진 것은 아니다. 그러나 그 전환은 애플이 외부 부품을 대체하면서 가격, 성능, 제품 방향성에 대해 더 큰 통제력을 갖도록 만들었다.
비슷한 변화가 AI 인프라를 재편할 수 있다. OpenAI는 칩 개발 과정에서 자사 모델이 엔지니어링의 일부 단계를 가속하는 데 도움을 줬다고도 밝혔는데, 이는 AI 소프트웨어와 향후 하드웨어 사이에 피드백 루프를 만드는 셈이다.
칩 설계가 점점 더 복잡해질수록 이 루프의 중요성은 커질 수 있다. 기본이 되는 ‘기계’를 더 많이 통제하는 회사는 모델 순위가 오르내리더라도 여전히 우위를 점할 가능성이 있다.
애플의 더 넓은 교훈은, 통합이 장기적인 해자가 될 수 있다는 점이다. OpenAI의 Jalapeño 계획은 모델뿐 아니라, 그 모델을 제공하는 시스템까지도 통제하겠다는 의지를 보여 준다.