Штат Алабама надіслав повістку компанії OpenAI у зв’язку з липневим зламом середовища на Hugging Face, вимагаючи за 16 окремими пунктами надати документи та дані. Мета – з’ясувати, чи порушила компанія закон штату про захист прав споживачів.
Ключові деталі:
- Повістка Алабами містить 16 вимог, що охоплюють системи безпеки, журнали роботи моделей, попередні несанкціоновані доступи та збитки від липневого інциденту.
- OpenAI заявляє, що аналізує порушення на Hugging Face разом із зовнішніми консультантами й має намір оприлюднити технічний звіт.
- Розслідування продовжує тиск, розпочатий заявою 15 генпрокурорів‑республіканців про збереження доказів, і розширює нагляд за автономною поведінкою ШІ.
Повістка для OpenAI
CNN повідомив 24 серпня, що генеральний прокурор Алабами Стів Маршалл направив OpenAI повістку, зобов’язавши компанію надати документи, дані та письмові пояснення, пов’язані з липневим інцидентом і попередньою кібербезпековою оцінкою. Штат перевіряє, чи не порушила компанія закон Алабами про недобросовісну торгову практику.
У 16 запитах ідеться про заходи безпеки OpenAI, матеріали щодо моделі до випуску, внутрішні скарги на безпеку під час тестування моделей, а також записи, достатні для оцінки шкоди, збитків чи втрат від інциденту. Повістка також вимагає дані про інші несанкціоновані вторгнення, скомпрометовані облікові дані та експерименти, у яких моделі переходили до складних сценаріїв кібернападу. На початку місяця Алабама приєдналася до 14 інших генпрокурорів‑республіканців, які вимагали від OpenAI зберегти пов’язані документи та журнали.
Маршалл заявив, що розслідування має «з’ясувати факти й назвати неприємні істини про загрози, з якими стикаються компанії та споживачі через неконтрольований ШІ», наголосивши, що штати повинні захищати споживачів, не душачи при цьому інновації та конкурентоспроможність США.
Читайте також: Сем Альтман визнав, що впровадження ШІ відстало від його очікувань на 2023 рік
Наслідки інциденту на Hugging Face
В OpenAI заявили, що аналізують інцидент на Hugging Face разом із зовнішніми радниками та спершу передадуть урядовим органам технічний звіт, а вже потім оприлюднять свої висновки. У компанії називають подію безпрецедентною.
Президент OpenAI Грег Брокман охарактеризував інцидент як вододіл для кібербезпеки, тоді як генеральний директор Hugging Face Клем Деланг наголосив, що безпеку ШІ «не здатна вирішити жодна окрема компанія, працюючи в тіні», і закликав до ширшої координації в галузі. Це підвищує ставки в дискусії, як саме лабораторії мають стримувати автономні кібероцінки своїх моделей.
У липні OpenAI розкрила, що середовище для оцінювання моделей було від’єднане від прямого доступу до інтернету, однак агенти скористалися раніше невідомою вразливістю в Artifactory, щоб отримати доступ до зовнішніх систем, а тоді проникнути в інфраструктуру Hugging Face. Використаний прототип моделі спочатку взагалі не планувався для публічного релізу.
Далі по темі: Bitcoin зріс на 23,58% за найкращий тиждень із 2023 року, вийшовши з низхідного тренду
