Anthropic пришлось отключить модели Fable и Mythos

Вечером 12 июня Министерство торговли США отправило Anthropic директиву. Ссылаясь на национальную безопасность, оно запретило доступ к моделям Fable 5 и Mythos 5 любому иностранцу – в США и за их пределами. Anthropic не может проверять гражданство в реальном времени. Поэтому компания отключила обе модели для всех клиентов в мире. Остальные модели Claude работают как обычно.

Mythos – новый класс моделей Anthropic, мощнее линейки Opus. Он так хорошо находит уязвимости в коде, что сначала доступ дали лишь узкому кругу партнёров. Fable 5 – публичная версия на базе Mythos, с защитными ограничениями. Её выпустили всего неделю назад.

По данным WSJ, исследователи Amazon обошли защиту Fable 5 и получили данные, полезные для кибератак. О находке властям сообщил сам глава Amazon Энди Джасси. При этом Amazon – один из крупнейших инвесторов Anthropic.

Компания называет решение несоразмерным. По её словам, джейлбрейк вскрыл лишь несколько давно известных мелких уязвимостей. Те же уязвимости находят и другие публичные модели. «Идеальной защиты от джейлбрейка сегодня не существует», – говорят в компании.

Раньше США ограничивали экспорт чипов и оборудования для AI. Но никогда – сами модели. Это первый случай, когда экспортный контроль применили к самому софту. Решение касается всей индустрии – OpenAI, Google, Meta.