Безопасность
Anthropic добавляет Mythos 5 к бета-версии сканирования Claude vulnerability
Anthropic предоставила бета-доступ к своей модели Claude, интегрированной с возможностями Mythos 5 для сканирования уязвимостей безопасности, сообщает The New Stack. Этот инструмент направлен на выявление потенциальных ошибок в коде, хотя результаты требуют воспроизводимых доказательств, оценки степени серьезности и проверки человеком перед развертыванием.
Автор: Лео В ·
Anthropic интегрировал Mythos 5 в бета-программу на базе Claude, предназначенную для сканирования кодовых баз на предмет уязвимостей в безопасности, сообщает The New Stack. Эта возможность представляет собой расширение роли Claude в цепочке инструментов безопасности для разработчиков, позволяя модели ИИ выявлять потенциальные слабые места наряду с традиционными методами статического анализа и тестирования на проникновение. Однако компания подчеркнула, что результаты, сгенерированные сканером, требуют воспроизводимых доказательств, формальной оценки серьезности, выполнения в безопасных песочницах и проверки экспертами-человеками до того, как какие-либо исправления или меры будут внедрены в производственные системы. Этот взвешенный подход к выпуску инструментов безопасности с поддержкой ИИ отражает признание Anthropic того, что большие языковые модели, несмотря на их способности к пониманию кода, остаются подверженными генерации звучащих правдоподобно, но неверных выводов.
Этот шаг сигнализирует о намеренной стратегии Anthropic по внедрению рабочих процессов, ориентированных на Claude into security, в точке, где разработчики и команды по безопасности оценивают риски. Вместо того чтобы позиционировать модель как замену существующих рамок обнаружения уязвимостей, Anthropic рассматривает интеграцию Mythos 5 как дополнительный слой, который может выявлять классы дефектов, ускользающие от традиционного сопоставления шаблонов. Бета-версия ограничена контролируемой группой участников, и Anthropic не раскрыла количество организаций или разработчиков, которые в настоящее время тестируют эту функцию, а также не опубликовала показатели производительности, сравнивающие точность обнаружения инструмента с отраслевыми стандартами. Чтобы подтвердить обнаруженные Claude результаты, разработчики должны предоставить доказательства возможности эксплуатации: это показывает, что дефект действительно проявляется в реальных условиях, а не является ложноположительным срабатыванием или архитектурной особенностью. Индекс новостей за 21 августа документирует отчётность, лежащую в основе этой записи.
Обработка данных и риски цепочки поставок
При развертывании масштабного сканирования уязвимостей с поддержкой ИИ возникают несколько операционных напряжений. Первое касается обработки данных: какие образцы кода, манифесты зависимостей или конфигурационные файлы модель использует при анализе и где хранятся эти входные данные? Anthropic не предоставила публично подробную информацию о политиках хранения данных для участников беты или не уточнила, используется ли код, сканированный через интеграцию Mythos 5, для обучения или совершенствования будущих версий Claude. Для предприятий, сканирующих проприетарный код, секреты цепочки поставок, встроенные в репозитории, или инфраструктуру как код, содержащую конфиденциальные учетные данные, такая неопределенность представляет реальный риск. Рамки безопасности, такие как CISA secure by design, подчеркивают важность уточнения потоков данных перед развертыванием новых инструментов в чувствительных контекстах.
Второе напряжение связано с ложными отрицательными результатами и неполным покрытием. Модель ИИ, оптимизированная для понимания кода, может выявлять распространенные шаблоны уязвимостей, такие как SQL-инъекции, межсайтовый скриптинг и переполнение буфера, но пропускать новые или специфические для определенной области ошибки, которые зависят от понимания необычных архитектурных решений или неочевидного взаимодействия между компонентами. Команды по безопасности, полагающиеся на Mythos 5 в качестве основного уровня сканирования, рискуют развить ложное чувство уверенности в покрытии, которое может быть систематически неполным. С другой стороны, ложные срабатывания расходуют ресурсы на триаж. Если модель помечает большое количество безвредных шаблонов кода как подозрительные, человеческие рецензенты сталкиваются с усталостью от предупреждений, и реальные риски могут быть понижены в приоритете. Операционный компромисс также отражается в Claude.
Третья проблема касается разрешений и изоляции песочницы. Если процесс сканирования требует, чтобы модель выполняла код или имитировала пути выполнения для проверки предполагаемой уязвимости, становится критически важным обеспечение выполнения в криптографически изолированной среде. Комплексная песочница может позволить злоумышленнику выйти из контекста сканирования и проникнуть в более широкую инфраструктуру. Бета-документация Anthropic публично не рассматривает конкретную используемую технологию песочницы, радиус воздействия при нарушении песочницы или процедуры реагирования на инциденты, если подозревается перехват сеанса сканирования. Руководство по кибербезопасности NIST предоставляет установленные ориентиры для таких средств изоляции, однако Anthropic не раскрывает соответствие этим стандартам в своей бета-версии. Для более широкого контекста, CISA защищено по дизайну излагает соответствующий стандарт или учреждение.
Воспроизводимость и стандарт доказательств
Акцент Anthropic на воспроизводимых доказательствах как предпосылке для того, чтобы рассматривать результаты Mythos 5 как действующие, отражает лучшие практики раскрытия уязвимостей, но также подчеркивает ограничение чисто AI-анализа. Модель ИИ может изложить правдоподобную цепочку рассуждений, объясняющую, как определенный кодовый паттерн может привести к компрометации, но до тех пор, пока человек или автоматический инструмент физически не воспроизведут ошибку в контролируемых условиях, результат остается спекулятивным. Это требование не уникально для сканирования с поддержкой ИИ. Коммерческие сканеры уязвимостей от таких поставщиков, как Rapid7, Qualys и Tenable, также генерируют результаты, которые требуют проверки перед применением патчей. Отличие заключается в профиле риска: детерминированный инструмент статического анализа, который помечает известный уязвимый вызов функции, имеет меньшую неопределенность, чем LLM, синтезирующий объяснение того, почему конкретная конструкция кода может быть использована. Рамки кибербезопасности NIST помогает разместить проблему в более широком контексте политики и инженерии.
Бета-программа остается на ранней стадии, и Anthropic не раскрывал сроки более широкого внедрения или интеграции в коммерческий Claude offerings. Организации, участвующие в бета-тестировании, фактически выступают одновременно пользователями и партнёрами по проверке. Это необходимо для сбора эмпирических данных, которые позволят повысить точность обнаружения модели и сократить количество ложноположительных срабатываний. Как и в случае с любыми инструментами безопасности, принятие будет зависеть от доказанной надежности и уверенности команд по безопасности в том, что инструмент беспрепятственно интегрируется в существующие платформы и рабочие процессы управления уязвимостями. Anthropic позиционировал интеграцию Mythos 5 как дополнение, а не замену существующих инструментов сканирования, что признает зрелость и высокую конкуренцию на рынке сканирования уязвимостей. Чтобы функция получила распространение за пределами участников бета-тестирования, она должна обеспечивать производительность, оправдывающую операционную нагрузку при подключении нового слоя анализа с поддержкой ИИ наряду с инструментами, которым команды уже доверяют. Последний момент можно проверить с помощью Топ-10 OWASP для приложений LLM.
Темы: безопасность, ИИ, сканирование уязвимостей, Claude, бета-тестирование