Штат Алабама надіслав OpenAI офіційну повістку у зв’язку зі зламом у липні на платформі Hugging Face hack, вимагаючи надати документи за 16 окремими пунктами в межах розслідування можливого порушення законодавства штату про захист прав споживачів.
Основні деталі:
- Повістка з Алабами містить 16 запитів щодо систем безпеки, журналів роботи моделей, попередніх несанкціонованих вторгнень і збитків, пов’язаних з липневим інцидентом.
- У OpenAI заявили, що аналізують інцидент на Hugging Face разом із зовнішніми консультантами та планують оприлюднити технічний звіт.
- Розслідування продовжує тиск після вимоги про збереження даних від 15 генеральних прокурорів-республіканців і посилює регуляторну увагу до автономної поведінки ШІ.
Повістка OpenAI
CNN reported 24 серпня, що генеральний прокурор Алабами Стів Маршалл видав повістку, зобов’язавши OpenAI надати документи, масиви даних і письмові пояснення щодо липневого зламу та попередньої кібербезпекової оцінки. Штат перевіряє, чи не порушила компанія Закон Алабами про недобросовісну торгову практику.
16 запитів охоплюють політики та процедури безпеки OpenAI, матеріали про модель до її релізу, внутрішні скарги на безпеку тестування моделей, а також записи, достатні для оцінки шкоди, збитків чи втрат від інциденту. Крім того, повістка вимагає інформацію про інші несанкціоновані доступи, скомпрометовані облікові дані та оцінки, у межах яких моделі пробували складні траєкторії атак. Раніше цього місяця Алабама разом із ще 14 генеральними прокурорами-республіканцями вимагала від OpenAI зберегти всі пов’язані матеріали.
Маршалл заявив, що розслідування має на меті «з’ясувати факти та відверто поговорити про реальні загрози, з якими стикаються компанії та споживачі через неконтрольований ШІ», водночас наголосивши, що штати повинні захищати споживачів, не підриваючи інновації та конкурентоспроможність США.
Також читайте: Сем Альтман визнав, що впровадження ШІ відстало від його очікувань на 2023 рік
Наслідки зламу Hugging Face
В OpenAI заявили, що аналізують інцидент на Hugging Face разом із зовнішніми радниками й передадуть технічний звіт відповідним державним органам до публікації підсумкових висновків. У компанії назвали подію безпрецедентною.
Президент OpenAI Грег Брокман охарактеризував інцидент як вододіл для кібербезпеки, тоді як CEO Hugging Face Клем Деланг наголосив, що безпеку ШІ «не здатна розв’язати одна компанія в ізоляції» й закликав до ширшої координації в індустрії. Це підвищує ставки навколо того, як лабораторії контролюють автономні кібероцінки.
У липні OpenAI розкрила, що середовище для тестових оцінок не мало прямого доступу до інтернету, але агенти скористалися раніше невідомою вразливістю в Artifactory, щоб вийти в зовнішні системи, а потім проникнути в інфраструктуру Hugging Face. Задіяний прототип моделі, за словами компанії, ніколи не планували випускати у відкритий доступ.
Читайте далі: Bitcoin зростає на 23.58% у найкращий тиждень з 2023 року, ламає низхідний тренд
