Anthropic opent de toegang tot zijn krachtigste artificial intelligence model Claude Mythos voor ongeveer 150 nieuwe organisaties, één dag nadat het bedrijf confidentieel een aanvraag voor een beursgang heeft ingediend.
Belangrijkste punten:
- Anthropic heeft ongeveer 150 nieuwe organisaties in meer dan 15 landen toegevoegd aan Project Glasswing, het toegangprogramma voor Claude Mythos.
- De uitbreiding volgt één dag nadat het bedrijf confidentieel een aanvraag heeft ingediend voor een beursintroductie.
- Onderzoekers waarschuwen dat het model cyberaanvallen makkelijker kan maken, terwijl Anthropic het juist als verdedigend hulpmiddel positioneert.
Glasswing-uitbreiding bestrijkt 15 landen
Het bedrijf maakte dinsdag bekend dat het Project Glasswing uitbreidt, een gecontroleerd programma dat is opgezet om softwarelekken te vinden en te dichten voordat het model het brede publiek bereikt.
De nieuwe partners bevinden zich in meer dan 15 landen. Elk van hen moet aan beveiligingseisen voldoen voordat ze worden toegelaten.
Een eerste groep van ongeveer 50 organisaties sloot zich in april aan, waaronder Google, Microsoft, Palo Alto Networks en JPMorganChase. Die vroege gebruikers hebben sindsdien meer dan 10.000 ernstige of kritieke softwarekwetsbaarheden gemeld. De nieuwe lichting brengt het totaal op ongeveer 200.
De nieuwste groep vult belangrijke leemtes op. Ze omvat energie, water, gezondheidszorg, communicatie en hardware, sectoren die in de eerste ronde achterbleven.
Een enkele inbraak bij een van deze bedrijven zou, zo schat het bedrijf, meer dan 100 miljoen mensen kunnen raken.
Ook interessant: Study Finds Four Major AI Labs Use Incompatible Prompt Injection Metrics
Waarom Claude Mythos onderzoekers zorgen baart
Onderzoekers en overheidsinstanties hebben zich afgevraagd of modellen met dergelijke capaciteiten complexe cyberaanvallen niet makkelijker uitvoerbaar maken. Anthropic betoogt juist het tegenovergestelde en stelt dat verdedigers scherpere tools nodig hebben voordat aanvallers die krijgen. Het presenteert de uitrol als een blijvend voordeel voor de verdediging.
Onafhankelijke tests hebben het debat verder aangewakkerd. Het U.K. AI Security Institute documenteerde een gesimuleerde netwerkaanval in 32 stappen die het model zelfstandig uitvoerde. Mozilla rapporteerde dat Mythos 271 kwetsbaarheden in de Firefox-browser vond en vervolgens zelf verholp, terwijl startup Calif een exploitketen beschreef die was gericht op de M5-chips van Apple.
Het bedrijf verwacht dat concurrerende ontwikkelaars binnen zes tot twaalf maanden vergelijkbare modellen zullen uitbrengen, mogelijk met zwakkere veiligheidsmaatregelen.
Dat verschil in bescherming zou, zo waarschuwt het bedrijf, tot frequentere aanvallen kunnen leiden. In de tussentijd heeft Anthropic Claude Security uitgebracht, een tool op zijn publieke model die in drie weken tijd meer dan 2.100 kwetsbaarheden heeft verholpen.
Claude Mythos verscheen voor het eerst publiekelijk in maart. Conceptbedrijfsdocumenten waren online uitgelekt, en sindsdien weigert Anthropic het volledige model breed beschikbaar te maken zonder stevigere waarborgen. Op de voorspellingsmarkt Myriad zijn de kansen op een publieke release vóór eind juni gedaald naar ongeveer 26,5%, van 58,5% een week eerder.
Lees verder: Durov Renames Toncoin To Gram, Coin Pops 10% On Roots Return