OpenAI sostiene che il chip Jalapeño abbia superato Nvidia GB300 in due benchmark di inferenza a 700 watt, con un’entrata in produzione prevista nel 2026 per ridurre i costi e accelerare i tempi di risposta.
Punti chiave:
- Secondo OpenAI, Jalapeño ha superato GB300 di Nvidia per throughput per unità di potenza e velocità di risposta nei test.
- Il chip di inferenza da 700 watt è progettato per abbattere i costi dei data center servendo i modelli di AI in modo più rapido.
- Jalapeño non è pensato per l’addestramento dei modelli e non è stato confrontato con la più recente generazione Vera Rubin di Nvidia.
I benchmark di OpenAI
OpenAI ha dichiarato che il processore personalizzato Jalapeño ha superato Nvidia GB300 nei test che misurano il lavoro di AI per unità di potenza e la rapidità nel restituire le risposte.
Richard Ho, responsabile dei chip di OpenAI, ha spiegato che Jalapeño coniuga un’elevata capacità di elaborazione (throughput) con una bassa latenza, offrendo potenzialmente ai clienti la possibilità di scegliere modelli che privilegiano costi inferiori o risposte più veloci.
Sviluppato in collaborazione con Broadcom, Jalapeño ha raggiunto i risultati di test operando a 700 watt, ha aggiunto Ho. Il consumo energetico è una delle principali voci di costo per i data center.
Da leggere anche: Il mercato RWA balza del 48,7%, ma un solo token spiega quasi tutto
Il contesto Nvidia
Il confronto presenta limiti evidenti.
Jalapeño non è stato testato contro la nuova generazione Vera Rubin di Nvidia, già in fase di consegna, e il chip di OpenAI è progettato per l’inferenza, non per l’addestramento dei modelli. Nvidia resta comunque un fornitore fondamentale per l’azienda.
OpenAI utilizza inoltre la tecnologia di Cerebras Systems per alcuni carichi di lavoro di inferenza, in particolare con modelli di dimensioni più contenute, mentre Ho ha sottolineato che Jalapeño è in grado di gestire modelli più grandi. «Abbiamo un fabbisogno di capacità di calcolo enorme», ha affermato.
Nei test pubblici è stato impiegato un piccolo modello open source di OpenAI insieme a modelli di DeepSeek e Moonshot AI, con i vantaggi più evidenti emersi sul modello Kimi di Moonshot, di dimensioni maggiori. Una seconda versione del chip è già in fase avanzata, con il tape-out previsto nei prossimi mesi, mentre OpenAI ha avviato la progettazione concettuale di una terza generazione.
Il chip segue l’annuncio del 24 giugno di OpenAI con Broadcom, quando le due società hanno comunicato che Jalapeño è passato dal design al tape-out produttivo in nove mesi, grazie anche al supporto dei modelli di OpenAI. Si trattava della prima generazione.
In primo piano dopo: Nvidia alimenta il piano di AI orbitale 2027 di SpaceX mentre entrambi i titoli scendono
