OpenAI Chief Research Officer Mark Chen zei dat het bedrijf dicht bij AI-modellen is die hun eigen onderzoek kunnen uitvoeren, waardoor artificiële algemene intelligentie steeds beter binnen bereik komt.
Belangrijke punten:
- Chen betoogde dat schaalwetten nog steeds geldig zijn, waarbij pretraining en langere redeneerketens de vooruitgang richting AGI blijven aandrijven.
- Hij zei dat modellen die in staat zijn tot zelfvoorzienend onderzoek dichtbij zijn, een verschuiving die het werk van menselijke onderzoekers ingrijpend zou veranderen.
- Chen noemde een toenemende evaluatiecrisis en onopgeloste continual learning als de grootste obstakels in het veld.
Chen schetst het pad naar AGI
Chen lichtte zijn visie toe in een recent podcastinterview, waarin hij kookte voor de camera terwijl hij de onderzoeksstrategie van OpenAI uitlegde.
Hij weersprak de bewering dat schaalvergroting is vastgelopen. Dat argument duikt volgens hem steeds weer op zodra het vakgebied een nieuwe bottleneck bereikt.
Het bedrijf bevindt zich op een exponentiële curve die over bijna 10 ordes van grootte standhoudt, en er is weinig dat erop wijst dat die zal breken, zo claimde hij.
Chen wees ook op OpenAI’s gok op redeneren. Hij zei dat vroege sceptici binnen het bedrijf vraagtekens zetten bij het o1-project, voordat Jakub Pachocki, Ilya Sutskever en een paar anderen het vooruit duwden.
Nu verwacht hij dat modellen onderzoekstaken op zich nemen die zich over weken uitstrekken, en ideeën opleveren die verder reiken dan de blinde vlekken van menselijke experts.
OpenAI’s routekaart beslaat drie jaar, gaf hij aan, en eindigt met modellen die onderzoek van begin tot eind afhandelen, van het eerste idee tot het eindresultaat.
Ook lezen: BitMine tart de verkoopgolf met een Ethereum-weddenschap van $43M, strategie knippert
Waarom het idee van de vibe-onderzoeker ertoe doet
Chen introduceerde een term die de aandacht trok: de vibe-onderzoeker.
In die toekomst, vertelde hij luisteraars, stoppen de beste onderzoekers met het zelf schrijven van iedere regel code en sturen zij in plaats daarvan modellen aan die de uitvoering en planning verzorgen. Menselijk werk versmalt tot twee taken: scherpe vragen stellen en beoordelen of een antwoord echt smaak heeft.
Die visie rust op wankele grond, en Chen doet niet alsof dat niet zo is.
Hij waarschuwde voor een evaluatiecrisis, en beschreef teams die jagen op benchmark-scores zonder echte vooruitgang, een gewoonte die hij benchmaxxing noemt. Oudere tests zijn inmiddels verzadigd, en nieuwe verliezen bijna meteen hun waarde zodra ze openbaar worden.
Continual learning blijft de lastigere kloof. Chen noemde het een basisvaardigheid die het veld nog moet ontsluiten, ook al zijn er volgens hem al veel inspanningen die zich op het probleem richten.
Als die boog standhoudt, suggereerde Chen, verschuift de schaarsste menselijke hulpbron van pure intelligentie naar oordeelsvermogen en geleefde ervaring.
Chen heeft deze redenering eerder naar voren gebracht. Rond de lancering van GPT-4.5 betoogde hij dat het schaalparadigma kon doorgaan, en hij heeft al lange tijd volgehouden dat er geen bewijs is dat schaalwetten dood zijn.
Lees hierna: CZ zegt dat Binance dagen verwijderd was van MiCA-goedkeuring voordat de politiek ingreep