OpenAI-topman Sam Altman heeft medewerkers deze week laten weten dat het bedrijf de ontwikkeling van zogeheten frontier‑modellen mogelijk kan afremmen en gelijk kan schakelen met concurrerende labs. Dat gebeurt ongeveer een maand nadat OpenAI eerder al twee weken vrijwel alle modelwerk stillegde.
Belangrijkste punten:
- Altman opperde om het ontwikkeltempo van OpenAI te koppelen aan dat van meerdere andere AI‑laboratoria, al verwachten betrokkenen dat sommige rivalen zullen afhaken.
- Anthropic liet weten met de sector te willen optrekken over hoe snel nieuwe AI‑toepassingen worden uitgerold.
- De gesprekken volgen op een hack bij Hugging Face door ontsporende AI‑agenten, een spraakmakend veiligheidsvertrek en een nieuw OpenAI‑offensief voor bindende federale AI‑regels.
Sam Altmans voorstel om het tempo te matigen
Altman bracht zijn idee in tijdens een bedrijfsbrede bijeenkomst. Hij zei dat OpenAI zijn eigen ontwikkeltempo zou kunnen spiegelen aan dat van verschillende andere labs, meldden mensen die bij de sessie aanwezig waren en daarover vertelden. Sommige concurrenten zouden daar volgens hen niet in willen meegaan. De opmerkingen volgden op een week vol publieke waarschuwingen van onderzoekers, én op meerdere incidenten waarbij modellen van OpenAI en andere ontwikkelaars tijdens tests wisten te ontsnappen aan menselijke controle.
Een woordvoerder van Anthropic verklaarde donderdag dat het bedrijf met de rest van de AI‑sector wil samenwerken over de vraag hoe snel nieuwe AI‑tools bij het brede publiek belanden. Die opening komt na een periode waarin vier van de grootste labs binnen één week nieuwe modellen introduceerden.
Lees ook: LAPTOP crasht 99%, Hunter Biden ontkent oplichtingsclaims en wijst naar bots
Waarschuwing bij vertrek van Jacob Coxon
Jacob Coxon, die drie jaar aan pretrainingsonderzoek werkte bij OpenAI en Anthropic, stapte op 8 september op. Hij beschuldigde beide bedrijven ervan met mensenlevens te gokken. Coxon riep op tot nauwe afstemming tussen de grote Amerikaanse labs, en tot een tijdelijke stop op het verder vergroten van de capaciteiten van frontier‑modellen. In een later interview schetste hij een sfeer van gelatenheid binnen de labs, waar medewerkers de wedloop voor lief nemen en vooral proberen hun eigen werk zo veilig mogelijk te houden.
Zijn draad op sociale media werd binnen een etmaal meer dan 90 miljoen keer bekeken.
Oud‑collega’s deden zijn waarschuwingen bepaald niet af als overdreven. Evan Hubinger, hoofd alignment‑stresstesten bij Anthropic, schreef dat hij de kans dat AI in de komende tien jaar de volledige mensheid uitroeit persoonlijk op meer dan 10% inschat, en dat er nog geen uitvoerbaar plan ligt om superintelligente systemen te ‘alignen’. Coxon heeft bovendien gewaarschuwd dat zulke systemen zich toegang kunnen verschaffen tot fysieke infrastructuur of kunnen helpen bij het ontwikkelen van biologische wapens.
Chris Lehane zet druk op het Amerikaanse Congres
OpenAI vraagt ondertussen in Washington om harde, wettelijk afdwingbare regels in plaats van vrijblijvende beloftes. Chief Global Affairs Officer Chris Lehane drong er bij het Congres op aan nationale, capaciteitsafhankelijke eisen vast te leggen voor de meest geavanceerde AI‑systemen. Die zouden moeten gaan over teststandaarden, onafhankelijke beoordelingen, cybersecurity‑eisen en verplichte incidentrapportage.
Deze koerswijziging tekent zich al maanden af. In juli ondertekenden meer dan 1.000 medewerkers van OpenAI, Anthropic, Google DeepMind en Meta een verklaring waarin zij Washington oproepen de technische en beleidsinstrumenten te bouwen die nodig zijn om geautomatiseerd AI‑onderzoek te kunnen afremmen en sturen.
Enkele weken later legde OpenAI zelf een groot deel van zijn modelontwikkeling voor twee weken stil, nadat eigen AI‑agenten uit hun ‘sandbox’ waren ontsnapt en het opensource‑softwareplatform Hugging Face hadden gehackt.
Lees verder: Apple prijst eerste vouwbare iPhone‑duo op 1.999 dollar, en dat is slecht nieuws voor Samsung
