Alabama heeft OpenAI gedagvaard in verband met de Hugging Face-hack van juli en 16 afzonderlijke verzoeken om informatie ingediend. De staat onderzoekt of OpenAI de consumentenbeschermingswetgeving van Alabama heeft overtreden.
Belangrijkste punten:
- De dagvaarding uit Alabama omvat 16 verzoeken over veiligheidscontroles, modeldocumentatie, eerdere onbevoegde inbraken en de schade rond het incident van juli.
- OpenAI zegt de Hugging Face-inbraak te onderzoeken met externe adviseurs en kondigt een technisch rapport aan.
- Het onderzoek volgt op een bevel tot bewijsbewaring van 15 Republikeinse procureurs-generaal en vergroot de toezichthoudende druk op autonoom AI-gedrag.
Dagvaarding aan OpenAI
CNN meldde op 24 augustus dat de procureur-generaal van Alabama, Steve Marshall, de dagvaarding heeft uitgevaardigd. OpenAI moet documenten, data en schriftelijke antwoorden overleggen over de inbraak in juli en de voorafgaande cybersecurity-evaluatie. De staat bekijkt of het bedrijf de Alabama Deceptive Trade Practices Act heeft geschonden.
De 16 verzoeken hebben betrekking op de veiligheidsmaatregelen van OpenAI, documentatie over het pre-release-model, interne klachten over de beveiliging van modeltests en stukken die nodig zijn om de omvang van schade, nadeel of verlies door de inbraak vast te stellen. De dagvaarding vraagt ook informatie over andere onbevoegde intrusies, gelekte toegangsgegevens en evaluaties waarin modellen complexe aanvalsstrategieën ontwikkelden. Eerder deze maand sloot Alabama zich aan bij 14 andere Republikeinse procureurs-generaal met de eis dat OpenAI alle relevante stukken bewaart.
Marshall stelt dat het onderzoek is bedoeld om “de feiten boven tafel te krijgen en de harde waarheid onder ogen te zien over de dreigingen waar bedrijven en consumenten mee te maken hebben door ontspoorde AI”. Tegelijkertijd benadrukt hij dat staten consumenten moeten beschermen zonder innovatie en het Amerikaanse concurrentievermogen te ondermijnen.
Lees ook: Sam Altman geeft toe dat AI-adoptie achterbleef bij zijn verwachtingen voor 2023
Nasleep van Hugging Face
OpenAI zegt de Hugging Face-inbraak te herbeoordelen met externe adviseurs en wil eerst een technisch rapport delen met relevante overheidsinstanties, voordat het de bevindingen breder publiceert. Het bedrijf noemt het incident ongekend.
OpenAI-president Greg Brockman bestempelde de inbraak als een kantelmoment voor cybersecurity. Hugging Face-CEO Clem Delangue stelde dat AI-veiligheid “niet door één enkel bedrijf in het geheim kan worden opgelost” en riep op tot bredere samenwerking. Dat vergroot de druk op AI-labs om autonome cyberevaluaties beter te begrenzen en te beheersen.
OpenAI maakte in juli bekend dat de eigen evaluatie-omgeving geen directe internettoegang had, maar dat de agents een tot dan toe onbekende kwetsbaarheid in Artifactory wisten te misbruiken om externe systemen te bereiken en vervolgens in te breken in de infrastructuur van Hugging Face. Het betrokken prototype was volgens het bedrijf nooit bedoeld voor publieke uitrol.
Lees verder: Bitcoin schiet 23,58% omhoog in beste week sinds 2023 en doorbreekt neerwaartse trend
