**오픈AI(OpenAI)**가 자사 맞춤형 칩 ‘할라피뇨(Jalapeño)’가 700와트 환경의 두 가지 추론(inference) 벤치마크에서 엔비디아(Nvidia) GB300을 앞섰다고 밝혔다. 회사는 이 칩을 2026년 이후 순차 배치해 비용을 낮추고 응답 속도를 끌어올릴 계획이다.
핵심 내용
- 오픈AI는 테스트 결과, 할라피뇨가 엔비디아 GB300 대비 단위 전력당 처리량(throughput)과 응답 속도에서 우위를 보였다고 설명했다.
- 700와트급 추론용 칩으로, 데이터센터 운영비를 줄이면서 AI 모델 서비스를 더 빠르게 제공하도록 설계됐다.
- 할라피뇨는 학습(training)용이 아니며, 이미 출하가 시작된 엔비디아의 최신 ‘베라 루빈(Vera Rubin)’ 세대와는 직접 비교되지 않았다.
오픈AI 벤치마크 결과
오픈AI는 밝혔다 자사 커스텀 프로세서 할라피뇨가 테스트에서 엔비디아 GB300보다 단위 전력당 처리 가능한 AI 작업량과 응답 반환 속도 지표에서 더 높은 성능을 기록했다고 전했다.
리처드 호(Richard Ho) 오픈AI 반도체 총괄은 할라피뇨가 “높은 처리량과 낮은 지연시간(low latency)을 동시에 갖추고 있어, 고객이 비용 절감형 모델과 초고속 응답형 모델 중에서 선택 폭을 넓힐 수 있다”고 말했다.
호에 따르면, **브로드컴(Broadcom)**과 공동 개발한 할라피뇨는 700와트 소비전력 조건에서 이 같은 벤치마크 결과를 달성했다. 전력 비용은 데이터센터 총비용에서 비중이 가장 큰 항목 가운데 하나다.
함께 보기: RWA 시장 48.7% 급등, 그러나 거의 모든 걸 설명하는 건 단 하나의 토큰
엔비디아와의 비교, 한계도 분명
이번 비교에는 분명한 한계가 있다.
우선, 할라피뇨는 이미 출하가 시작된 엔비디아의 최신 베라 루빈 세대 칩과는 직접 맞대결을 하지 않았다. 또한 설계 목적 역시 다르다. 할라피뇨는 AI 모델 학습이 아닌 추론에 특화돼 있어, 대규모 학습 시장에서 엔비디아의 입지를 당장 위협하는 수준은 아니다. 오픈AI 역시 여전히 엔비디아를 핵심 공급사로 두고 있다.
오픈AI는 일부 추론 워크로드, 특히 소형 모델에 대해서는 **세레브라스 시스템즈(Cerebras Systems)**의 기술도 활용하고 있다. 호는 “할라피뇨는 더 큰 모델을 처리할 수 있다”며, 컴퓨팅 수요가 워낙 크기 때문에 여러 하드웨어를 병행 활용할 수밖에 없는 상황이라고 설명했다. “우리는 컴퓨트가 너무나 많이 필요하다”고 그는 말했다.
이번 공개 테스트에는 오픈AI의 소형 오픈소스 모델 1종과 함께 딥시크(DeepSeek), **문샷 AI(Moonshot AI)**의 모델이 포함됐다. 특히 문샷 AI의 대형 ‘키미(Kimi)’ 모델에서 할라피뇨의 상대적 강점이 더 뚜렷하게 나타났다는 설명이다.
두 번째 세대 칩 개발도 상당 부분 진행된 상태로, 수개월 내 테이프아웃(tape-out·설계 완료 후 생산 라인으로 넘기는 단계)이 예상된다. 동시에, 오픈AI는 3세대 구상 작업에도 이미 착수했다.
이번 칩은 오픈AI가 브로드컴과 함께 6월 24일 발표했던 로드맵의 연장선에 있다. 당시 양사는 첫 번째 세대 할라피뇨가 오픈AI의 자체 모델을 활용한 설계 자동화 덕분에, 디자인 착수 후 9개월 만에 제조용 테이프아웃 단계까지 진입했다고 소개했다. 이번에 공개된 칩이 바로 그 1세대 제품이다.
