**오픈AI(OpenAI)**가 자사 맞춤형 칩 ‘할라페뇨(Jalapeño)’가 700와트 환경의 두 가지 AI 추론 벤치마크에서 엔비디아(Nvidia) GB300을 앞섰다고 밝혔다. 회사는 2026년 이후 본격 배치를 통해 비용을 낮추고 응답 속도를 끌어올리겠다는 계획이다.
핵심 포인트
- 오픈AI는 테스트에서 할라페뇨가 엔비디아 GB300 대비 전력 단위당 처리량과 응답 속도에서 우위를 보였다고 밝혔다.
- 700와트급 추론 전용 칩으로, 데이터센터 비용을 낮추면서도 더 빠르게 AI 서비스를 제공하도록 설계됐다.
- 할라페뇨는 학습용이 아닌 추론용 칩이며, 이미 출하가 시작된 엔비디아의 최신 ‘베라 루빈(Vera Rubin)’ 세대와는 직접 비교되지 않았다.
오픈AI 벤치마크 결과
오픈AI는 공개 발언에서, 자체 설계한 할라페뇨 프로세서가 AI 작업을 수행하는 전력 효율(단위 전력당 처리량)과 응답 속도 측면에서 엔비디아 GB300을 앞섰다고 설명했다.
오픈AI의 반도체 책임자인 **리처드 호(Richard Ho)**는 할라페뇨가 높은 처리량과 낮은 지연 시간을 동시에 구현해, 고객이 “더 저렴한 비용” 또는 “더 빠른 응답” 가운데 우선순위를 다르게 둔 모델을 선택할 수 있게 하는 것이 목표라고 말했다.
오픈AI는 **브로드컴(Broadcom)**과 공동 개발한 이 칩이 700와트 전력 수준에서 해당 테스트 결과를 달성했다고 밝혔다. 데이터센터 운영비에서 전력 비용이 차지하는 비중이 큰 만큼, 전력 효율은 핵심 경쟁 요소다.
함께 읽을 거리: RWA 시장 48.7% 급등, 그러나 거의 모든 설명은 한 토큰이 차지했다
엔비디아와의 비교, 한계도 분명
이번 비교에는 분명한 한계가 있다.
우선, 할라페뇨는 이미 출하가 시작된 엔비디아의 차세대 ‘베라 루빈’ 계열과는 아직 직접 테스트되지 않았다. 또 할라페뇨는 대규모 모델 학습(training)이 아닌 추론(inference)에 최적화된 칩으로, 범용 GPU인 엔비디아 제품군과 용도가 다르다. 그럼에도 엔비디아는 여전히 오픈AI의 핵심 공급사로 남아 있다.
오픈AI는 특정 추론 워크로드, 특히 더 작은 모델에서는 **세레브라스 시스템즈(Cerebras Systems)**의 기술도 함께 사용하고 있다. 반면 호는 할라페뇨가 더 큰 규모의 모델까지 처리하는 용도로 설계됐다고 설명하며 “우리는 연산 자원에 대한 수요가 너무나 크다”고 덧붙였다.
공개 벤치마크에서는 오픈AI가 자체 공개한 소형 오픈소스 모델 1개와 함께 딥시크(DeepSeek), **문샷 AI(Moonshot AI)**의 모델들이 사용됐다. 특히 문샷 AI의 대형 ‘키미(Kimi)’ 모델에서 할라페뇨의 강점이 더 두드러졌다는 설명이다.
차세대 설계도 빠르게 진행 중이다. 두 번째 버전은 이미 개발 후반 단계에 접어들었으며, 수개월 내 테이프아웃(tape-out·설계 완료 후 생산 단계로 넘기는 공정)이 예정돼 있다. 오픈AI는 동시에 세 번째 세대에 대한 개념 설계에도 착수한 상태다.
할라페뇨는 6월 24일 브로드컴과의 공동 발표의 연장선상에 있다. 당시 양사는 오픈AI의 자체 모델을 활용해 설계 기간을 단축, 할라페뇨 1세대가 설계 개시 후 9개월 만에 제조용 테이프아웃 단계까지 도달했다고 밝힌 바 있다.
이어 읽기: Nvidia, SpaceX 2027년 궤도 AI 계획에 연산력 공급… 두 기업 주가는 동반 하락
