МОДЕЛИ
Fable 5 Fight от Anthropic превращает доступ к моделям в проблему экспортного контроля
Сообщается, что приказ США, ограничивающий доступ к моделям Fable 5 и Mythos 5 компании Anthropic, показывает, как быстро решения о выпуске передового ИИ могут превращаться в политику национальной безопасности. Суть борьбы заключается не столько в одной модели, сколько в том, кто контролирует доступ, когда сталкиваются возможности, кибербезопасность и геополитика.
Майкл С ·
AnthropicПоследняя борьба за доступ к модели превратилась в один из самых наглядных примеров того, как передовые технологии ИИ становятся export-control проблема. Сообщает Вердж сообщает, что администрация Трампа распорядилась компании 12 июня приостановить доступ к Claude Mythos 5 и Fable 5 для иностранных граждан, пока чиновники расследуют вопросы, связанные с возможным взломом Fable 5.
Факты по-прежнему оспариваются. Сообщается, что Anthropic утверждала, что рассматриваемое ограничение было незначительным и не уникальным для её систем, тогда как официальные лица рассматривали этот эпизод как предупреждение о том, что наиболее мощные модели могут потребовать контроля, более близкого к чувствительным технологиям, чем обычное программное обеспечение. В любом случае, практический эффект был немедленным: решения о доступе, которые ранее в основном принимались командами по продукту, безопасности и предприятиям, теперь переплетаются с оценкой национальной безопасности.
Доступ к моделям становится объектом политики
Более глубокое изменение заключается в том, что доступ к модели больше не является просто уровнем цен или графиком выпуска продукта. Фронтир ИИ может помогать с кодированием, киберанализ, научное рассуждение, убеждение и использование инструментов. Это ставит вопрос о том, кто может использовать модель, откуда, при каком режиме ведения журнала и с какими мерами предосторожности, на самостоятельную поверхность политики.
Это создает сложную задачу управления. Если правительства будут ждать, пока модель не будет уже развернута по всему миру, ограничения могут стать хаотичными и грубыми. Если же они вмешаются слишком рано, они рискуют замедлить работу законных исследователей, международных сотрудников и корпоративных клиентов, которые создают защитные или продуктивные приложения.
Международная проблема пользователей
The foreign-national Ограничение особенно взрывоопасно, поскольку лаборатории ИИ по умолчанию являются глобальными. Их исследовательские команды, клиенты, подрядчики и экосистемы стартапов пересекают границы. Контроль, предназначенный для снижения стратегических утечек, также может прервать обычное сотрудничество, усложнить соблюдение требований и подтолкнуть способных разработчиков к моделям за пределами. Юрисдикция США.
Для американских законодателей контраргумент заключается в том, что утечка возможностей может уже происходить через обычные коммерческие каналы. Если передовая модель может обнаруживать уязвимости, автоматизировать цепочки эксплуатации или помогать враждебным акторов ускорять выполнение конфиденциальной работы, чиновники не будут рассматривать доступ как нейтральное потребительское решение.
Руководство по новому выпуску
Спор вокруг Fable 5 указывает на необходимость нового плана выпуска для передовых лабораторий. Одних карточек моделей и отчетов о безопасности будет недостаточно. Лабораториям может понадобиться контроль доступа с учетом юрисдикции, документированные доказательства работы красной команды, каналы апелляции для законных пользователей и заранее согласованные пути эскалации с государственными органами до того, как наступит следующий кризис.
Темы: Anthropic, Claude, экспортный контроль, передовой ИИ