Безопасность
Китайские кибер-модели сокращают разрыв в безопасности ИИ
Сообщения о том, что китайские модели соответствуют передовым системам в заданиях по кибербезопасности, показывают, почему доступ к оборонному ИИ стал вопросом национальной безопасности, а не узким вопросом корпоративных инструментов.
Автор: Лео В ·
Сообщается, что китайские ИИ-системы сокращают разрыв с cybersecurity задачи следует рассматривать как историю доступа, а не только как эталонную историю. Если модели за пределами экосистемы фронтирной лаборатории США могут работать достоверно обнаружение уязвимостей, анализ кода и оборонительная сортировка, политика ограничения моделей становится намного сложнее.
Вопрос не в том, превосходит ли одна модель другую в одном рейтинге. Вопрос в том, происходит ли диффузия возможностей достаточно быстро, так что ограничение нескольких западных систем больше не контролирует риск. Кибер — это категория, где эта дилемма возникает первой, потому что полезные возможности могут быть как оборонительными, так и наступательными.
Возможность обеспечения безопасности по умолчанию является двойного назначения
Модель, которая помогает защитнику обнаружить неправильную конфигурацию, также может помочь злоумышленнику понять, как её использовать. Модель, которая пишет исправление, также может размышлять о баге, который исправление устраняет. Это dual-use характер — вот почему продвинутые кибернетические модели все чаще находятся за контроль доступа, контролируемые песочницы и системы проверки клиентов.
Прогресс Китая также усложняет логику контроля экспорта. Если возможности уже распространяются через внутренние модели, открытые исследования, тонкую настройку и облачный доступ, политика должна перейти от простой блокировки к повышению устойчивости. Это означает лучшую защитную развертку, обмен сведениями о инцидентах, доказательства работы красной команды и укрепление инфраструктуры.
Защитникам тоже нужен доступ
Наиболее непосредственный риск чрезмерного ограничения заключается в том, что защитники теряют инструменты, в то время как нападающие обходят правила. Критическая инфраструктура Операторам, телекоммуникационным провайдерам, больницам и государственным учреждениям нужен контролируемый доступ к моделям, которые могут помочь им сортировать журналы, проверять код и расставлять приоритеты для исправлений.
Темы: ИИ в Китае, кибербезопасность, доступ к моделям, безопасность ИИ