OpenAI afferma che il chip Jalapeño ha superato il Nvidia GB300 in due benchmark di inferenza a 700 watt, con un’implementazione prevista più avanti nel 2026 per ridurre i costi e accelerare i tempi di risposta.
Punti chiave:
- Secondo OpenAI, Jalapeño ha superato il GB300 di Nvidia in throughput per unità di potenza e in velocità di risposta nei test interni.
- Il chip di inferenza da 700 watt è progettato per abbattere i costi dei data center servendo più rapidamente i modelli di intelligenza artificiale.
- Jalapeño non è pensato per l’addestramento dei modelli e non è stato confrontato con la più recente generazione Vera Rubin di Nvidia.
I benchmark di OpenAI
OpenAI ha dichiarato che il processore proprietario Jalapeño ha superato il GB300 di Nvidia nei test che misurano il lavoro di AI svolto per unità di potenza e la rapidità di restituzione delle risposte.
Richard Ho, responsabile chip di OpenAI, ha spiegato che Jalapeño combina elevato throughput e bassa latenza, offrendo ai clienti la possibilità di scegliere modelli che privilegiano costi più contenuti oppure risposte più veloci.
Sviluppato in collaborazione con Broadcom, Jalapeño ha raggiunto i risultati di test operando a 700 watt, ha precisato Ho. Il consumo energetico è una delle principali voci di costo nei data center.
Da leggere anche: Il mercato RWA vola del 48,7%, ma un solo token spiega quasi tutto
Il contesto Nvidia
Il confronto presenta limiti evidenti.
Jalapeño non è stato testato contro la nuova generazione Vera Rubin di Nvidia, già in fase di consegna, e il chip di OpenAI è progettato per l’inferenza, non per l’addestramento dei modelli. Nvidia resta comunque un fornitore chiave.
OpenAI utilizza inoltre la tecnologia di Cerebras Systems per alcune attività di inferenza, in particolare con modelli più piccoli, mentre Ho ha affermato che Jalapeño è in grado di gestire modelli di dimensioni maggiori. «Abbiamo un fabbisogno di calcolo enorme», ha sottolineato.
Nei test pubblici è stato utilizzato un piccolo modello open source di OpenAI insieme a modelli di DeepSeek e Moonshot AI, con i vantaggi più netti registrati sul modello Kimi di Moonshot di dimensioni maggiori. Una seconda versione del chip è già in fase avanzata, con il tape-out previsto nei prossimi mesi, mentre OpenAI ha avviato lo studio concettuale di una terza generazione.
Il chip segue l’annuncio del 24 giugno di OpenAI con Broadcom, quando le due società hanno comunicato che Jalapeño è passato dalla fase di progettazione al tape-out produttivo in nove mesi, anche grazie all’uso dei modelli di OpenAI. Quella era la prima generazione.
Prossimo articolo: Nvidia alimenta il piano AI orbitale 2027 di SpaceX mentre entrambi i titoli scendono
