OpenAI beweegt richting Apple-achtige controle over zijn AI-stack, terwijl het plan voor een aangepaste chip de hardware-dominantie van Nvidia op de proef stelt.
Belangrijkste punten:
- OpenAI en Broadcom hebben nieuwe details gedeeld over Jalapeño, een aangepaste inference-processor gebouwd voor AI-workloads.
- De chip wijst op een bredere strategie, niet alleen op een poging om de afhankelijkheid van Nvidia te verminderen.
- Grote AI-bedrijven bouwen aangepaste silicon omdat infrastructuur centraal komt te staan in de concurrentie.
OpenAI-chip
Het werk van OpenAI met Broadcom aan Jalapeño heeft aandacht getrokken, omdat Nvidia nog steeds de belangrijkste hardwaresupplier is achter een groot deel van de AI-boom.
De processor is gericht op inference, de fase nadat een model is getraind en begint te reageren op gebruikers. Training creëert het model. Inference drijft de dagelijkse prompts aan die de gebruikerservaring bepalen.
Dat onderscheid is belangrijk omdat die interacties op enorme schaal plaatsvinden. Elke verbetering in snelheid, energieverbruik of netwerken kan de kosten verlagen en AI-systemen responsiever laten aanvoelen.
De stap suggereert ook dat OpenAI leent uit het draaiboek van Apple. Apple kreeg meer macht over zijn producten door belangrijke hardware en software samen te ontwerpen, in plaats van systemen aan te passen rond externe processors.
OpenAI lijkt die logica toe te passen op AI. Een chip die is gebouwd rond zijn eigen modellen kan het bedrijf meer controle geven over hoe ChatGPT en toekomstige systemen presteren.
Dit is nog vroeg. OpenAI heeft niet aangegeven dat brede uitrol op korte termijn plaatsvindt, en de chip moet worden gezien als het begin van een langetermijnstrategie voor infrastructuur.
Ook lezen: OpenAI's Mark Chen zegt dat AI die eigen onderzoek uitvoert dichtbij is
Druk op Nvidia
Nvidia heeft op korte termijn weinig reden tot paniek. Zijn processors ondersteunen nog steeds een groot deel van de huidige AI-infrastructuur, en de vraag blijft sterk in de sector.
Maar het chipplan van OpenAI past in een breder patroon. Google heeft Tensor Processing Units gebouwd, Amazon ontwikkelde Trainium en Inferentia, Microsoft heeft geïnvesteerd in AI-chips, en Meta heeft eigen accelerators nagestreefd.
De gedeelde conclusie is duidelijk. Naarmate AI belangrijker wordt voor deze bedrijven, wil geen van hen volledig afhankelijk zijn van de hardware-roadmap van een andere partij.
De overstap van Apple naar eigen processors vernietigde Intel niet van de ene op de andere dag. Hij gaf Apple echter wel meer controle over prijsstelling, prestaties en productrichting toen het externe componenten verving.
Een vergelijkbare verschuiving zou AI-infrastructuur kunnen hervormen. OpenAI zei ook dat zijn eigen modellen hielpen delen van het engineeringproces tijdens de chipontwikkeling te versnellen, waardoor een feedbacklus ontstond tussen AI-software en toekomstige hardware.
Die lus kan belangrijker worden naarmate chipontwerp complexer wordt. Het bedrijf dat meer van de onderliggende machine controleert, kan voordelen behalen, zelfs wanneer modelranglijsten verschuiven.
De bredere les van Apple is dat integratie kan uitgroeien tot een langetermijnmoat. OpenAI's Jalapeño-plan suggereert dat het niet alleen controle wil over modellen, maar ook over de systemen die ze leveren.
Lees hierna: BingX werkt samen met Save the Children om kinderen in risico in de Westelijke Balkan te steunen