Политика
Призыв Белого дома к стандартам ИИ делает кибер-бенчмарки новым порогом выпуска
Белый дом движется к добровольным стандартам выпуска передовых моделей ИИ. Важным сигналом является то, что возможности кибербезопасности, доступ оценщиков и сроки запуска становятся стандартизированными частями процесса работы с передовыми моделями.
Майкл С ·
The Белый дом Призыв ускорить стандарты выпуска продвинутых моделей ИИ — это политика системы, пытающейся догнать продуктовый цикл. После вмешательств вокруг Anthropic и OpenAI после выпусков следующий шаг — это не грандиозный закон о ИИ. Это практический контрольный список выпуска для моделей, которые могут существенно повлиять на кибербезопасность, критическую инфраструктуру и национальную конкуренцию.
Это важно, потому что стандарты изменяют стандартный порядок беседы. Вместо того чтобы каждый раз импровизировать, когда модель вызывает обеспокоенность, лаборатории и агентства могут согласовать ожидаемые тесты, форматы отчетности, уровни доступа и пороговые значения доказательств до того, как окно запуска станет политически взрывоопасным.
Кибер — первая твёрдая категория
Cybersecurity становится первой воротной моделью фронтира, потому что вред достаточно конкретен, чтобы его можно было оценить, и dual-use достаточно, чтобы беспокоить законодателей. Система, которая помогает защитникам классифицировать уязвимости, может также помочь злоумышленникам понять пути эксплуатации. Эта неопределенность делает бенчмарки и доступ оценщиков центральными.
Сложная часть заключается в разработке стандартов, которые не замораживают рынок вокруг существующих лабораторий. Если соблюдение стандартов требует огромных внутренних команд, привилегированных отношений с правительством и месяцев проверок, малые лаборатории и группы с открытым исходным кодом будут утверждать, что безопасность стала барьером для входа. Если стандарты слишком мягкие, агентства будут обвинять в формальном одобрении мощных систем.
Доступ оценщика — это тихая борьба
Самая важная деталь может заключаться в доступе оценщика. Внешние тестировщики нужно достаточно информации и времени, чтобы оценить опасные возможности, но более широкий доступ также повышает риски утечек, неправомерного использования и конкуренции. Возникающий вопрос политики заключается в том, какой уровень доступа к модели, информации о системе и времени оценки следует считать приемлемым для различных уровней риска.
Процесс стандартизации также предоставляет США дипломатический инструмент. Если Вашингтон сможет определить шаблон проверки выпусков, которому доверяют союзники, он сможет влиять на то, как продвинутые модели переходят через границы, не полагаясь исключительно на грубые экспортные ограничения. Это превратит стандарты моделей в форму технологической дипломатии.
Темы: Белый дом, стандарты ИИ, кибербезопасность, передовые модели