Anthropic opent de toegang tot zijn krachtigste kunstmatige-intelligentiemodel Claude Mythos voor ongeveer 150 nieuwe organisaties, één dag nadat het bedrijf vertrouwelijk een aanvraag voor een beursgang indiende.
Belangrijkste punten:
- Anthropic heeft ongeveer 150 nieuwe organisaties in meer dan 15 landen toegevoegd aan Project Glasswing, zijn toegangsprogramma voor Claude Mythos.
- De uitbreiding volgt één dag nadat het bedrijf vertrouwelijk een aanvraag voor een eerste openbare aanbieding indiende.
- Onderzoekers waarschuwen dat het model cyberaanvallen makkelijker kan maken, terwijl Anthropic het juist presenteert als verdedigingsmiddel.
Glasswing-uitbreiding bestrijkt 15 landen
Het bedrijf kondigde dinsdag aan dat het Project Glasswing uitbreidt, een gecontroleerd programma dat is opgezet om softwarefouten te vinden en te verhelpen voordat het model het grote publiek bereikt.
De nieuwe partners bevinden zich in meer dan 15 landen. Elk van hen moet aan veiligheidsvereisten voldoen voordat ze toegang krijgen.
Een eerste groep van ongeveer 50 organisaties sloot zich in april aan, waaronder Google, Microsoft, Palo Alto Networks en JPMorganChase. Deze vroege gebruikers hebben sindsdien meer dan 10.000 ernstige of kritieke softwarekwetsbaarheden gemeld. De nieuwe lichting brengt het totaal op ongeveer 200.
De nieuwste groep vult belangrijke hiaten op. Ze omvat organisaties in de stroom-, water-, gezondheidszorg-, communicatie- en hardwaresectoren, sectoren die in de eerste ronde achterbleven.
Volgens een inschatting van het bedrijf kan één enkele inbraak bij een van deze bedrijven schadelijk zijn voor ruim 100 miljoen mensen.
Ook interessant: Study Finds Four Major AI Labs Use Incompatible Prompt Injection Metrics
Waarom Claude Mythos onderzoekers zorgen baart
Onderzoekers en overheidsinstanties hebben zich afgevraagd (questioned) of zulke capabele modellen complexe cyberaanvallen makkelijker kunnen maken om uit te voeren. Anthropic stelt het tegenovergestelde en zegt dat verdedigers scherpere tools nodig hebben voordat aanvallers die in handen krijgen. Het presenteert de uitrol als een duurzaam voordeel voor de verdediging.
Onafhankelijke tests hebben het debat alleen maar verder aangewakkerd. Het Britse AI Security Institute heeft een 32-stappen-simulatie van een netwerkaanval gedocumenteerd die het model zelfstandig uitvoerde. Mozilla meldde dat Mythos 271 kwetsbaarheden vond en vervolgens in de Firefox-browser verholp, terwijl startup Calif een exploitketen beschreef die gericht was op de M5-chips van Apple.
Het bedrijf verwacht dat concurrerende ontwikkelaars binnen zes tot twaalf maanden vergelijkbare modellen zullen uitbrengen, mogelijk met zwakkere veiligheidsmaatregelen.
Dat verschil in niveau kan, zo waarschuwt het, leiden tot frequentere aanvallen. In de tussentijd heeft Anthropic Claude Security uitgebracht, een tool op zijn publieke model die in drie weken meer dan 2.100 fouten heeft verholpen.
Claude Mythos verscheen voor het publiek in maart. Conceptmateriaal van het bedrijf was online gelekt, en sindsdien weigert Anthropic het volledige model aan iedereen te verstrekken zonder stevigere waarborgen. Op de voorspellingsmarkt Myriad is de kans op een publieke release tegen eind juni gedaald naar ongeveer 26,5%, van 58,5% een week eerder.
Lees ook: Durov Renames Toncoin To Gram, Coin Pops 10% On Roots Return