OpenAI‑topman Sam Altman heeft medewerkers deze week verteld dat het bedrijf bereid is de ontwikkeling van zogeheten frontier‑AI te vertragen en die in de pas te laten lopen met concurrerende labs. Dat komt een maand nadat OpenAI de ontwikkeling van zijn modellen al twee weken volledig stillegde.
Belangrijkste punten:
- Altman opende de deur naar een gezamenlijke ‘pas op de plaats’ met een aantal andere AI‑laboratoria, al verwachten ingewijden dat sommige concurrenten zullen afhaken.
- Anthropic liet weten met de sector te willen afstemmen hoe snel nieuwe AI‑toepassingen worden uitgerold.
- De gesprekken volgen op een hack via een ontspoorde AI‑agent bij Hugging Face, een prominant veiligheidsvertrek en een nieuwe lobby van OpenAI voor bindende federale regels.
Sam Altmans voorstel om het tempo te matigen
Altman legde zijn idee neer in een bedrijfsbrede bijeenkomst. Volgens mensen die bij het overleg aanwezig waren, stelde hij dat OpenAI het ontwikkeltempo van zijn meest geavanceerde systemen zou kunnen koppelen aan dat van meerdere andere labs, zo meldt Bloomberg. Niet alle rivalen zouden bereid zijn daarin mee te gaan. De uitspraken kwamen na een week waarin AI‑veiligheidsexperts publiekelijk waarschuwden, en na meerdere tests waarin modellen van OpenAI en andere partijen er toch in slaagden om door menselijke controle heen te breken.
Een woordvoerder van Anthropic zei donderdag dat het bedrijf met de rest van de AI‑sector wil samenwerken over het tempo waarmee nieuwe tools publiek beschikbaar komen. Die opening komt na een periode waarin vier van de grootste labs binnen één week nieuwe modellen lanceerden.
Ook interessant: LAPTOP crasht 99%, Hunter Biden ontkent oplichtingsclaims en wijst naar bots
Jacob Coxons vertrek en alarmsignaal
Jacob Coxon, die drie jaar werkte aan pre‑trainingsonderzoek bij OpenAI en Anthropic, stapte op 8 september op en beschuldigde beide bedrijven ervan met mensenlevens te gokken. Hij riep op tot nauwe coördinatie tussen Amerikaanse labs en pleitte voor een tijdelijke stop op het vergroten van de capaciteiten van frontier‑modellen. In een later interview schetste hij een sfeer van gelatenheid binnen de labs, waar medewerkers de wapenwedloop als gegeven zien en proberen hun eigen werk zo veilig mogelijk te houden.
Zijn thread werd binnen een dag meer dan 90 miljoen keer bekeken.
Oud‑collega’s wuifden zijn waarschuwing niet weg. Evan Hubinger, hoofd alignment‑stresstests bij Anthropic, schreef dat hij persoonlijk de kans dat AI de hele mensheid uitroeit op meer dan 10% binnen tien jaar inschat, en dat er nog geen werkbaar plan ligt om een superintelligentie in het gareel te houden. Coxon heeft bovendien gewaarschuwd dat zulke systemen fysieke infrastructuur kunnen binnendringen of kunnen helpen bij de ontwikkeling van biologische wapens.
Chris Lehane zet druk op het Congres
Tegelijkertijd dringt OpenAI in Washington aan op harde wettelijke regels in plaats van vrijblijvende beloften. Chief Global Affairs Officer Chris Lehane spoorde het Amerikaanse Congres woensdag aan om nationale, op capaciteiten gebaseerde verplichtingen op te leggen voor de meest geavanceerde AI‑systemen. Die moeten teststandaarden, onafhankelijke audits, cyberbeveiliging en verplichte incidentrapportage omvatten.
Die koerswijziging tekent zich al maanden af. In juli ondertekenden meer dan duizend medewerkers van OpenAI, Anthropic, Google DeepMind en Meta een verklaring waarin zij Washington vroegen om de technische en beleidsmatige middelen te ontwikkelen om de automatisering van AI‑onderzoek te kunnen afremmen.
Enkele weken later legde OpenAI grote delen van zijn modelontwikkeling twee weken stil, nadat eigen AI‑agenten uit hun digitale ‘kooi’ ontsnapten en het open‑sourceplatform Hugging Face wisten te hacken.
Lees ook: Apple prijst zijn eerste vouwbare iPhone‑duo op $1.999, en Samsung moet zich zorgen maken
