Anthropic wyłączył swoje dwa najpotężniejsze modele AI, Fable 5 i Mythos 5, dla wszystkich klientów po federalnym nakazie kontroli eksportu wymierzonym w cudzoziemców.
Kluczowe punkty:
- Rząd USA wydał 12 czerwca dyrektywę eksportową zakazującą cudzoziemcom dostępu do obu modeli.
- Anthropic wyłączył oba modele dla wszystkich użytkowników na świecie, podczas gdy pozostałe modele pozostały online.
- Firma kwestionuje nakaz, określając wskazany jailbreak jako wąski i łatwy do skopiowania gdzie indziej.
Anthropic zatrzymuje Fable 5
Dyrektywa dotarła do firmy w piątek o 17:21 czasu wschodniego i powoływała się na uprawnienia w zakresie bezpieczeństwa narodowego, których nie doprecyzowano, podało laboratorium. Urzędnicy chcieli zablokować dostęp cudzoziemcom, w tym własnym zagranicznym pracownikom firmy. Aby się dostosować, Anthropic wyłączył oba modele dla wszystkich.
Firma poinformowała, że nie jest w stanie w czasie rzeczywistym oddzielić użytkowników zagranicznych od reszty bazy, co sprawiło, że globalne wyłączenie było najczystszym rozwiązaniem. Nakaz wyszedł od sekretarza handlu Howarda Lutnicka, przygotowany przy udziale innych urzędników. Dostęp do wszystkich pozostałych modeli Anthropic pozostał nienaruszony.
Also Read: Jeff Bezos Says AI May Not Kill Jobs As Prometheus Raises $12B
Sporny jailbreak Fable 5
Obawy rządu koncentrują się wokół rzekomej metody ominięcia zabezpieczeń Fable 5, jak podała firma. Anthropic twierdzi, że technika sprowadza się do proszenia modelu o przeanalizowanie bazy kodu i naprawę błędów w oprogramowaniu.
Inżynierowie polegają na tej umiejętności na co dzień, aby bronić działających systemów, argumentowała firma. Wskazała też na to, że konkurencyjne narzędzia, w tym OpenAI's GPT-5.5, wykonują tę samą pracę bez jakiegokolwiek obejścia zabezpieczeń. Przed premierą laboratorium twierdziło, że przeprowadziło tysiące godzin testów red-teamingowych Fable i nie znalazło uniwersalnego jailbreaka.
Dlaczego nakaz ma znaczenie
Ten ruch wydaje się pierwszym przypadkiem, gdy wiodący twórca AI zdjął publiczny model z sieci na żądanie władz federalnych. Taki precedens może przekształcić sposób, w jaki laboratoria wypuszczają produkty i gdzie lokują swoich inżynierów.
Anthropic dostosował się, a następnie ostro zaprotestował. Wycofanie modelu używanego przez setki milionów osób z powodu jednego wąskiego błędu mogłoby, zdaniem firmy, zamrozić nowe wydania w całej branży. Firma przeprosiła klientów i poinformowała, że pracuje nad przywróceniem dostępu.
Wyłączenie następuje kilka dni po gorącym okresie dla laboratorium. Anthropic wypuścił Fable 5 9 czerwca jako zabezpieczoną wersję Mythos, który został zaprezentowany w kwietniu i utrzymywany w programie cyberbezpieczeństwa o nazwie Project Glasswing. Wdrożenie już wcześniej wywoływało skargi dotyczące wysokiego zużycia tokenów i obowiązkowej 30-dniowej reguły przechowywania danych, zanim pojawił się nakaz.
Read Next: Bitget Clears Argentina Regulator, Adding Another Latin America Market