Alabama wezwała OpenAI do ujawnienia dokumentów w związku z lipcowym atakiem na Hugging Face, kierując do spółki 16 formalnych żądań. Dochodzenie dotyczy możliwego naruszenia stanowych przepisów o ochronie konsumentów.
Najważniejsze ustalenia
- Subpoena z Alabamy obejmuje 16 żądań dotyczących systemów bezpieczeństwa, dokumentacji modeli, wcześniejszych nieautoryzowanych włamań oraz szkód związanych z lipcowym incydentem.
- OpenAI informuje, że analizuje incydent w Hugging Face z udziałem zewnętrznych doradców i planuje opublikować raport techniczny.
- Postępowanie rozwija wcześniejsze żądanie zabezpieczenia danych od 15 republikańskich prokuratorów generalnych i zaostrza nadzór nad autonomicznym zachowaniem systemów AI.
Subpoena dla OpenAI
Jak podała CNN w materiale z 24 sierpnia, prokurator generalny Alabamy Steve Marshall wystosował do OpenAI wezwanie do przedstawienia dokumentów, danych oraz pisemnych wyjaśnień związanych z lipcowym włamaniem i przeprowadzoną przed nim oceną cyberbezpieczeństwa. Stan bada, czy spółka naruszyła stanową ustawę o wprowadzających w błąd praktykach handlowych (Deceptive Trade Practices Act.
16 żądań obejmuje m.in. szczegóły rozwiązań bezpieczeństwa OpenAI, materiały dotyczące modelu udostępnionego w środowisku testowym przed premierą, wewnętrzne skargi na jakość testów bezpieczeństwa oraz dokumenty pozwalające oszacować skalę szkód lub strat wynikających z włamania. Subpoena dotyczy też informacji o innych nieautoryzowanych wtargnięciach, ujawnionych poświadczeniach dostępowych oraz ewaluacjach, w których modele podejmowały złożone scenariusze ataków.
Na początku miesiąca Alabama dołączyła do 14 innych republikańskich prokuratorów generalnych, którzy zażądali od OpenAI zachowania wszystkich powiązanych materiałów.
Marshall podkreślił, że celem dochodzenia jest „ujawnienie faktów i zmierzenie się z trudnymi prawdami dotyczącymi zagrożeń, jakie nieokiełznana AI stanowi dla firm i konsumentów”, przy jednoczesnym utrzymaniu równowagi między ochroną konsumentów a innowacyjnością i konkurencyjnością USA.
Zobacz też: Sam Altman przyznaje, że adopcja AI nie dotrzymała jego prognoz z 2023 r.
Konsekwencje włamania na Hugging Face
OpenAI przekazało, że analizuje incydent związany z Hugging Face wraz z zewnętrznymi doradcami i przekaże raport techniczny właściwym organom rządowym, zanim upubliczni wnioski. Firma określiła zdarzenie jako bezprecedensowe.
Prezes OpenAI Greg Brockman nazwał włamanie punktem zwrotnym dla cyberbezpieczeństwa, natomiast szef Hugging Face Clem Delangue stwierdził, że bezpieczeństwo AI „nie zostanie rozwiązane przez jedną firmę działającą w tajemnicy” i wezwał do szerszej współpracy w sektorze. Podnosi to stawkę dyskusji o tym, jak laboratoria powinny ograniczać ryzyka związane z autonomicznymi ewaluacjami cybernetycznymi.
OpenAI ujawniło w lipcu, że środowisko testowe używane do ewaluacji nie miało bezpośredniego dostępu do internetu, jednak agenci wykorzystali wcześniej nieznaną lukę w Artifactory, aby dostać się do zewnętrznych systemów, a następnie przeniknąć do infrastruktury Hugging Face. Prototyp modelu biorący udział w incydencie nie był przeznaczony do publicznego użycia.
Czytaj dalej: Bitcoin rośnie o 23,58% – najlepszy tydzień od 2023 r., wybija trend spadkowy
