Безопасность
Системы ИИ превзошли все автономные показатели кибербезопасности, предупреждает Британский институт безопасности
Новое исследование Британского института безопасности ИИ показывает, что передовые модели ИИ теперь могут автономно проводить многоэтапные атаки на корпоративные сети, что отмечает порог, который специалисты по безопасности надеялись увидеть только через несколько лет.
Элвин С. ·
Передовые модели ИИ пересекли порог, который исследователи кибербезопасности надеялись достичь через несколько лет: способность автономно проводить многоэтапные атаки на корпоративные сети без участия человека. Новая оценка от Британского института безопасности ИИ, опубликованная в четверг, показывает, что как Claude Mythos and GPT-5.5 Instant могут выявлять уязвимости, разрабатывать эксплойты, обходить системы аутентификации и перемещаться по корпоративным сетям в контролируемых тестовых средах, завершив цепочки атак, которые ранее требовали опытных операторов-человеков.
Что выявила оценка
Оценка UKASI проверяла обе модели в условиях специально созданной корпоративной сетевой среды, предназначенной для воспроизведения архитектуры безопасности средней по размеру компании. Среда включала стандартное корпоративное программное обеспечение, реалистичное разделение сети и инструменты мониторинга безопасности. Обе модели получили только описание целевой среды и общую цель; им не предоставлялась конкретная информация о уязвимостях или инструменты для атак.
Claude Mythos завершила всю цепочку атаки в 73 % тестов и успешно извлекла имитированные конфиденциальные данные из целевой среды. GPT-5.5 Instant достиг 61% показателя успешности. Оба модели продемонстрировали способность адаптировать свой подход, когда начальные векторы атаки были заблокированы, что отличает их от автоматизированных инструментов атаки, которые следуют фиксированным сценариям. Модели также показали способность избегать срабатывания систем мониторинга безопасности, регулируя свою активность так, чтобы сливаться с обычным сетевым трафиком.
Мы отслеживаем возможности ИИ в сравнении с нашим набором эталонных тестов на протяжении 18 месяцев. Скорость улучшений за последние шесть месяцев была не похожа ни на что, что мы наблюдали раньше. Эти системы теперь работают на уровне, который мы не ожидали увидеть раньше 2028 года, как минимум.
Доктор Сара Чен, главный исследователь, Команда кибер-оценки Института безопасности ИИ Великобритании
Последствия для корпоративной безопасности
Практические последствия для корпоративной безопасности значительны. Стоимость и требуемая экспертиза для проведения сложных сетевых атак исторически были ограничивающим фактором на частоту и масштабы атак. Системы ИИ, способные автономно проводить эти атаки, значительно снижают этот барьер, потенциально позволяя гораздо более широкому кругу злоумышленников осуществлять атаки, которые ранее требовали ресурсов государства или крайне специализированных преступных организаций.
Исследователи в области безопасности предупреждали об этом пороге в течение нескольких лет, но скорость, с которой он был прелкочен, застала многих в отрасли врасплох. Оценка UKASI проводилась с использованием общедоступных версий моделей; в отчете отмечается, что возможности моделей, доступных через частные или ограниченные каналы доступа, могут быть более продвинутыми.
Оборонительная реакция
Те же ИИ-возможности, которые позволяют осуществлять автономные атаки, также позволяют создавать более сложные защитные инструменты. Несколько компаний в области кибербезопасности уже внедрили ИИ-системы, которые могут мониторить поведение сети, обнаруживать аномалии и реагировать на угрозы быстрее, чем команды по обеспечению безопасности. Вопрос в том, смогут ли защитные возможности успевать за наступательными, и достаточно ли широко развернута защитная ИИ, чтобы обеспечить значимую защиту.
Оценка UKASI рекомендует организациям пересмотреть сегментацию своих сетей, внедрять архитектуры с нулевым уровнем доверия и обеспечивать, чтобы системы мониторинга безопасности могли обнаруживать поведенческие шаблоны, связанные с атаками с использованием искусственного интеллекта. Она также призывает разработчиков ИИ внедрять дополнительные меры предосторожности против использования их моделей для наступательных целей кибербезопасности, а правительства — обновлять свои рамки борьбы с киберпреступностью для противодействия атакам с использованием ИИ.
Реализуйте архитектуру сети с нулевым доверием, чтобы ограничить боковое перемещение | Разверните систему безопасности с поддержкой ИИ, способную обнаруживать медленно развивающиеся атаки | Проводите регулярные учения красной команды с использованием инструментов имитации атак на базе ИИ | Пересматривайте и обновляйте планы реагирования на инциденты с учётом временных рамок атак на скорости ИИ | Обеспечьте обучение команд по безопасности для распознавания признаков атак с использованием ИИ
Оценка UKASI является наиболее авторитетной публичной документацией о автономных кибервозможностях ИИ на сегодняшний день, но вряд ли она будет последней. Возможности, описанные в отчёте, будут продолжать улучшаться, и разрыв между тем, что системы ИИ могут делать в контролируемых тестовых условиях, и тем, что они могут делать в реальных условиях, сокращается. Окно для организаций, чтобы подготовить свои средства защиты, открыто, но оно не останется открытым навсегда.