Безопасность
Ограничения модели Anthropic выявляют новый риск для специалистов по кибербезопасности
Руководители в сфере кибербезопасности предупреждают, что ограничение доступа к передовым моделям ИИ может повредить как защитникам, так и противникам. Спор о доступе к Anthropic показывает, почему политика в области ИИ в сфере национальной безопасности должна учитывать защитных пользователей, а не только риск злоупотреблений.
Автор: Лео В ·
Cybersecurity лидеры предупреждают, что ограничения на передовые модели ИИ могут ослабить как защитников, так и атакующих. Озабоченность усилилась вокруг Anthropic's спор по доступу к модели, где логика национальной безопасности сталкивается с реальностью того, что команды по обеспечению безопасности всё чаще используют передовые модели для обнаружения, классификации, анализа вредоносного ПО и реагирования на инциденты.
Инстинкт политики понятен. Продвинутые модели могут помочь злоумышленникам писать код, автоматизировать разведку, генерировать фишинговый контент и анализировать уязвимости. Но защитники используют те же возможности, чтобы суммировать логи, искать по кодовой базе, реверс-инжинирить подозрительные скрипты и реагировать быстрее, чем это смогли бы сделать только человеческие команды.
Парадокс Защитника
Безопасность — это асимметричная область. Нападающим нужен один путь внутрь; защитникам нужно следить за всем. Если лучшие инструменты ИИ будут слишком сильно ограничены, хорошо оснащённые нападающие могут всё равно найти альтернативы, в то время как законные команды по безопасности потеряют системы, которые помогают им масштабировать редкие экспертизы.
Это не значит, что неограниченный доступ безопасен. Это означает, что политика нуждается в большей детализации. Правительствам могут потребоваться уровни доверенных пользователей, проверенный доступ, специфические для домена меры защиты, доказательства от красной команды и экстренные каналы для защитников критической инфраструктуры. Двоичная модель «разрешить или запретить» плохо соответствует киберреальности.
Доступ становится частью архитектуры безопасности
Самый практичный вопрос заключается не в том, опасны ли передовые модели. Важно, кто может их использовать, при каких ограничениях, с какой регистрацией действий и для каких защитных рабочих процессов. Команда безопасности больницы, оператор связи или защитник электросети имеет другой профиль риска по сравнению с анонимным аккаунтом, исследующим цепочки эксплойтов.
Сторона поставщика также сложна. Если лаборатории станут контрольными органами при принятии решений о доступе в интересах национальной безопасности, им потребуется процесс, больше похожий на регулируемую инфраструктуру, чем на потребительское программное обеспечение. Это включает проверку клиентов, мониторинг злоупотреблений, отчетность о происшествиях и правдоподобные апелляции для защитных пользователей, которые теряют доступ.
Национальная безопасность играет на оба фронта
Темы: Anthropic, кибербезопасность, доступ к моделям, безопасность ИИ