David Sacks, doradca technologiczny Białego Domu, powiedział, że administracja Trumpa wprowadziła kontrolę eksportu na Anthropic po tym, jak firma odmówiła załatania zgłoszonego jailbreaka w modelu Fable AI.
Sacks ujawnia szczegóły decyzji wobec Anthropic
W poście na X w sobotę Sacks napisał, że zaufany partner testujący Fable znalazł sposób obejścia zabezpieczeń mających uniemożliwić wykorzystanie modelu do celów cyberbezpieczeństwa. Administracja następnie poprosiła szefa Anthropic, Dario Amodeia, aby naprawił problem lub wycofał model.
Według Sacksa Amodei odmówił.
Spór nastąpił po wydaniu 9 czerwca przez Anthropic Fable 5, wersji potężniejszego systemu Mythos 5 wyposażonego w dodatkowe zabezpieczenia. Sekretarz handlu Howard Lutnick później zakazał cudzoziemcom korzystania z obu modeli, a Anthropic wyłączyło je na całym świecie.
Zobacz też: Bitcoin Bulls Eye $67K After Trump Says Hormuz Will Open To All
Anthropic kwestionuje wagę jailbreaka
Anthropic odpowiedziało w poście na blogu. Firma stwierdziła, że nie zgadza się z tym, by wąski jailbreak wymuszał wycofanie modelu używanego przez miliony użytkowników, i argumentowała, że konkurencyjne systemy mogą być wykorzystywane w podobny sposób.
Sacks powiedział, że decyzja była podjęta niechętnie i że urzędnicy liczyli, iż Anthropic usunie lukę, aby Fable mogło wrócić na rynek. Zaprzeczył też jakimkolwiek związkom z wcześniejszymi napięciami. W marcu Pentagon uznał Anthropic za ryzyko w łańcuchu dostaw – firmę, która obecnie zaskarża tę decyzję w sądzie federalnym.
Czytaj dalej: Index Rules Turn SpaceX's $2T Debut Into A Market Stress Test