Anthropic вимкнула свої дві найпотужніші моделі ШІ, Fable 5 and Mythos 5, для всіх клієнтів після федерального наказу з експортного контролю, спрямованого на іноземних громадян.
Основні моменти:
- Уряд США видав 12 червня директиву з експортного контролю, що забороняє іноземним громадянам доступ до обох моделей.
- Anthropic вимкнула обидві моделі для всіх користувачів у світі, тоді як інші моделі компанії залишилися онлайн.
- Компанія оскаржує наказ, називаючи виявлений jailbreak вузьким і таким, що його легко відтворити в інших системах.
Anthropic зупиняє Fable 5
Директива надійшла до компанії в п’ятницю о 17:21 за східноамериканським часом і, за словами лабораторії, посилалася на повноваження в сфері нацбезпеки без деталізації. Чиновники вимагали заблокувати іноземних громадян, включно з власним закордонним персоналом компанії. Щоб виконати вимогу, Anthropic вимкнула обидві моделі для всіх.
Компанія заявила, що не може в реальному часі відокремити іноземних користувачів від решти бази, тож глобальне вимкнення стало найпростішим рішенням. Наказ надійшов від міністра торгівлі Говарда Латніка (Howard Lutnick), підготовлений за участі інших посадовців. Доступ до всіх інших моделей Anthropic зберігся.
Також читайте: Jeff Bezos Says AI May Not Kill Jobs As Prometheus Raises $12B
Суперечка навколо jailbreak Fable 5
За словами компанії, занепокоєння уряду зосереджене на нібито способі обійти захисні механізми Fable 5. Anthropic стверджує, що техніка фактично зводиться до прохання моделі прочитати код і виправити програмні вади.
Інженери щодня покладаються на таку можливість, захищаючи робочі системи, наполягає компанія. Вона також зазначила, що конкуруючі інструменти, включно з OpenAI's GPT-5.5, виконують ту саму роботу без будь-якого обходу захисту. До запуску лабораторія заявляла, що проводила red-teaming Fable тисячі годин і не виявила універсального jailbreak.
Чому цей наказ має значення
Схоже, це перший випадок, коли провідний розробник ШІ публічно прибирає модель з доступу на вимогу федеральної влади. Такий прецедент може змінити підхід лабораторій до запуску продуктів і розміщення інженерних команд.
Anthropic виконала наказ, а потім різко розкритикувала його. На думку компанії, відкликання моделі, якою користуються сотні мільйонів людей, через один вузький недолік фактично заморозить нові релізи в усій індустрії. Компанія вибачилась перед клієнтами й повідомила, що працює над відновленням доступу.
Вимкнення відбулося за кілька днів після напруженого періоду для лабораторії. Anthropic випустила Fable 5 9 червня як обмежену версію Mythos, який вона показала у квітні й тримала в межах кібербезпекової програми під назвою Project Glasswing. Ще до наказу реліз уже викликав скарги через високе споживання токенів і обов’язкове правило зберігання даних протягом 30 днів.
Читайте далі: Bitget Clears Argentina Regulator, Adding Another Latin America Market