Этика
Первый нулевой день, написанный ИИ: когда автономные кибератаки становятся неотличимы от человеческих
Раскрытие Google уязвимости нулевого дня, созданной ИИ, в мае 2026 года заставило столкнуться с вопросом, который сообщество безопасности долго откладывало: каковы этические обязательства лабораторий ИИ, чьи модели могут самостоятельно обнаруживать и использовать уязвимости в виде оружия?
Патрик Т ·
В мае 2026 года команда безопасности Google раскрыла то, что исследователи описывают как первую подтвержденную эксплойт-уязвимость нулевого дня, сгенерированную ИИ и обнаруженную в реальной среде. Эксплойт, написанный на Python, был выявлен автоматическими системами обнаружения угроз Google до того, как его удалось использовать против рабочей инфраструктуры. Раскрытие информации было кратким и техническим. Вопросы этики, которые оно подняло, таковыми не были.
Инцидент произошёл в том же месяце, когда Anthropic признала, что её самая передовая модель, Claude Mythos, обнаружила тысячи ранее неизвестных уязвимостей в основных веб-браузерах и операционных системах во время внутреннего тестирования — возможность, которая была настолько тревожной, что компания решила не выпускать модель публично до разработки новых мер защиты. Anthropic намекнула в объявлении о выпуске Opus 4.8 на этой неделе, что предварительный период Mythos может скоро завершиться, как только эти меры защиты будут готовы.
Проблема двойного использования в масштабе
Проблема двойного использования в ИИ — та же способность, которая позволяет создавать полезные приложения, также может использоваться для вредоносных — не нова. Новым является масштаб и скорость, с которой современные модели могут теперь действовать. Человеческий специалист по безопасности может потратить недели или месяцы на выявление одной критической уязвимости. Модель, работающая на уровне возможностей, приписываемых Claude Mythos could, в принципе, способна обследовать всю поверхность атаки крупной программной платформы за несколько часов. Асимметрия между наступательными и оборонительными возможностями не является только технической; она также этическая.
Человеческий исследователь может потратить месяцы на поиск одной критической уязвимости. Передовая модель может обследовать всю поверхность атак платформы за считанные часы. Этический вопрос заключается не в том, возможно ли это — а в том, кто несет ответственность, когда это используется.
Вопрос о том, кто несет ответственность, когда система ИИ используется для проведения кибератаки, не урегулирован существующими правовыми рамками. Большинство законов о киберпреступлениях были написаны с учетом человеческих преступников. Когда модель ИИ самостоятельно обнаруживает уязвимость, создает эксплойт и применяет его против цели — потенциально без участия человека на каждом этапе — цепочка ответственности становится действительно неясной. Несет ли ответственность лаборатория ИИ? Оператор, который развернул модель? Пользователь, который дал исходную команду?
Дилемма раскрытия
Решение Anthropic не выпускать Claude Mythos в открытый доступ представляет собой один из подходов к управлению технологией двойного назначения: не предоставлять эту возможность до внедрения мер безопасности. Но у этого подхода есть свои собственные этические сложности. Уязвимости, которые Mythos обнаружила во время внутреннего тестирования, существуют, независимо от того, будет ли модель выпущена. Если исследователи Anthropic выявили тысячи непатченных уязвимостей в крупных программных платформах, этическая обязанность раскрыть эти уязвимости пострадавшим поставщикам — и практическая сложность сделать это в масштабах — создают дилемму, которую компания публично не освещала.
Сообщество исследователей безопасности давно функционирует в рамках нормы ответственного раскрытия информации: исследователи, обнаружившие уязвимости, уведомляют затронутых поставщиков и предоставляют разумный срок для исправления, прежде чем публиковать детали публично. Эта норма была разработана для отдельных человеческих исследователей, работающих с отдельными уязвимостями. Она не применима напрямую к сценарию, в котором система искусственного интеллекта выявила тысячи уязвимостей одновременно на десятках программных платформ без участия человека для проверки каждой находки.
К разработке рамочной основы для киберответственности ИИ
Появилось несколько предложений от сообществ по вопросам безопасности и этики ИИ. Один из подходов требует от лабораторий ИИ создания формальных программ раскрытия уязвимостей, работающих на скорости машин — автоматизированных каналов для уведомления поставщиков, когда модели обнаруживают критические уязвимости во время внутреннего тестирования. Другой подход предполагает установление строгой ответственности для лабораторий ИИ за кибератаки, проведенные с использованием их моделей, создавая финансовые стимулы для более консервативной разработки возможностей. Третий подход рассматривает самые опасные возможности ИИ как технологии двойного назначения, подлежащие экспортным ограничениям и требованиям лицензирования, аналогично существующей системе для криптографического программного обеспечения.
Ни одна из этих рамочных программ не была принята ни одной крупной юрисдикцией. Закон ЕС об ИИ, даже в своей поправленной комплексной форме, не рассматривает специально кибератаки, создаваемые ИИ. В Соединенных Штатах отсутствует федеральное законодательство по безопасности ИИ. Разрыв между темпами развития возможностей и темпами регуляторного реагирования никогда не был таким большим — и раскрытие уязвимости нулевого дня в мае 2026 года свидетельствует о том, что последствия этого разрыва больше не являются теоретическими.
Темы: кибербезопасность, этика ИИ, уязвимость типа «нулевой день», Claude Mythos, автономный ИИ