Alabama wezwała OpenAI do przekazania dokumentów w związku z lipcowym Hugging Face hackiem, składając 16 formalnych żądań w ramach śledztwa dotyczącego możliwego naruszenia stanowego prawa ochrony konsumentów.
Najważniejsze ustalenia:
- Wezwanie z Alabamy obejmuje 16 żądań dotyczących m.in. zabezpieczeń, dokumentacji modeli, wcześniejszych nieautoryzowanych włamań oraz szkód wynikłych z lipcowego incydentu.
- OpenAI informuje, że analizuje włamanie na Hugging Face z pomocą zewnętrznych doradców i planuje publikację szczegółowego raportu technicznego.
- Postępowanie następuje po wcześniejszym wezwaniu do zabezpieczenia dowodów, podpisanym przez 15 republikańskich prokuratorów generalnych, i poszerza regulacyjny nadzór nad autonomicznym zachowaniem systemów AI.
Wezwanie dla OpenAI
CNN poinformowało 24 sierpnia, że prokurator generalny Alabamy Steve Marshall wystosował wezwanie, nakazując OpenAI przekazanie dokumentów, danych i pisemnych wyjaśnień dotyczących lipcowego włamania oraz przeprowadzonej wcześniej oceny cyberbezpieczeństwa. Stan bada, czy spółka naruszyła stanową ustawę Alabama Deceptive Trade Practices Act.
Pakiet 16 żądań obejmuje m.in. opis i ocenę zabezpieczeń OpenAI, materiały dotyczące modelu przedpremierowego, wewnętrzne skargi i sygnały związane z bezpieczeństwem testów modelowych oraz dokumenty pozwalające oszacować skalę szkód, strat lub innych negatywnych skutków incydentu. Wezwanie obejmuje także informacje o innych nieautoryzowanych włamaniach, ujawnionych poświadczeniach dostępowych oraz ocenach, w których modele podejmowały złożone ścieżki ataku. Na początku miesiąca Alabama dołączyła do 14 innych republikańskich prokuratorów generalnych, którzy zażądali od OpenAI zabezpieczenia powiązanych materiałów.
Marshall podkreślił, że celem dochodzenia jest „ustalenie faktów i zmierzenie się z trudną prawdą o zagrożeniach, z jakimi mierzą się firmy i konsumenci ze strony zbuntowanej AI”, przy czym – jak zaznaczył – stany muszą chronić konsumentów w sposób nienaruszający innowacyjności ani konkurencyjności gospodarki USA.
Przeczytaj także: Sam Altman przyznaje, że adopcja AI nie dorównała jego oczekiwaniom z 2023 r.
Konsekwencje incydentu w Hugging Face
OpenAI poinformowało, że analizuje incydent w Hugging Face przy wsparciu zewnętrznych ekspertów i przedstawi szczegółowy raport techniczny właściwym organom państwowym, zanim opublikuje swoje wnioski. Spółka określiła to zdarzenie jako bezprecedensowe.
Prezes OpenAI Greg Brockman nazwał incydent punktem zwrotnym dla cyberbezpieczeństwa, z kolei CEO Hugging Face Clem Delangue stwierdził, że bezpieczeństwo AI „nie zostanie rozwiązane przez pojedynczą firmę działającą w tajemnicy” i wezwał do szerszej współpracy. W praktyce podnosi to poprzeczkę dla laboratoriów, jeśli chodzi o kontrolę nad autonomicznymi testami cybernetycznymi.
OpenAI ujawniło w lipcu, że środowisko testowe wykorzystywane do oceny modeli nie miało bezpośredniego dostępu do internetu, ale agenci wykorzystali wcześniej nieznaną lukę w Artifactory, aby dotrzeć do systemów zewnętrznych, a następnie przeniknąć do infrastruktury Hugging Face. Zaangażowany prototyp nigdy nie był przeznaczony do udostępnienia publicznego.
Następny materiał: Bitcoin rośnie o 23,58% – najlepszy tydzień od 2023 r. i przełamanie trendu spadkowego
