Безопасность
Хакеры использовали ИИ для разработки первого в истории известного нулевого дня эксплойта в дикой природе
Группа угрозовой разведки Google выявила киберпреступную операцию, использовавшую модель ИИ для обнаружения и превращения в оружие уязвимости нулевого дня в популярном инструменте веб-администрирования, что стало впервые подтверждённым случаем использования ИИ для создания работоспособного эксплойта в реальной атаке.
Патрик Т ·
В течение многих лет специалисты по безопасности предупреждали, что ИИ в конечном итоге будет обращён против систем, которые он был создан для защиты. В понедельник компания Google подтвердила, что этот день настал. Группа по анализу угроз компании (GTIG) сообщила, что ей удалось выявить операцию киберпреступников, использующих эксплойт, сгенерированный ИИ, для обхода двухфакторной аутентификации в популярном инструменте управления вебом с открытым исходным кодом — это первый подтверждённый случай использования ИИ для обнаружения и превращения в оружие уязвимости нулевого дня в реальной атаке.
Эксплойт, встроенный в скрипт на Python, нацеливался на высокоуровневую семантическую логическую ошибку в процессе аутентификации инструмента. Уязвимость требовала наличия действительных учетных данных пользователя для эксплуатации, но после их получения позволяла злоумышленникам полностью обходить двухфакторную аутентификацию. Google сотрудничал с пострадавшим поставщиком для исправления ошибки до публичного раскрытия кампании.
Отпечатки пальцев LLM
Анализ кода эксплойта GTIG выявил несколько признаков, характерных для выхода больших языковых моделей. Скрипт содержал обширные образовательные docstrings, вымышленный показатель критичности CVSS и структурированный, в стиле учебника, Python-формат — все это соответствует коду, сгенерированному большой языковой моделью, обученной на публичных репозиториях и документации по безопасности.
«Скрипт содержит обилие образовательных докстрингов, включая вымышленный показатель CVSS, и использует структурированный, учебный Python-стиль, характерный для тренировочных данных LLM», — написали в своем отчете специалисты GTIG. Группа с высокой уверенностью оценила, что для обнаружения уязвимости и создания рабочего эксплойта использовалась модель ИИ, хотя они не нашли доказательств того, что в этом участвовала собственная модель Google Gemini.
ИИ уже ускоряет обнаружение уязвимостей, снижая усилия, необходимые для их идентификации, проверки и использования. Это сегодняшняя реальность: обнаружение, использование в оружейных целях и эксплуатация происходят быстрее.
Райан Дьюхёрст, руководитель отдела анализа угроз watchTowr
Более широкая схема атак с использованием ИИ
Обнаружение нулевого дня не является единичным случаем. В отчете Google документируется более широкая тенденция использования государственными и преступными угрозами ИИ для ускорения наступательных операций. Северокорейская группа APT45 отправляла Gemini тысячи повторяющихся запросов, чтобы итеративно анализировать CVE и проверять работоспособность концептуальных эксплойтов. Китайская группа, связанная с UNC2814, использовала методы взлома с учетом персонального подхода для исследования уязвимостей встроенного программного обеспечения устройств. Акторы, связанные с Россией, развернули вредоносное ПО с поддержкой ИИ, которое использует сгенерированный LLM поддельный код для сокрытия вредоносной функциональности.
Google также раскрыла детали PromptSpy, вредоносного ПО для Android, которое использует Gemini для анализа текущего экрана и предоставления инструкций по закреплению вредоносного приложения в списке последних приложений. Вредоносное ПО может захватывать биометрические данные, препятствовать удалению, накладывая на кнопку удаления невидимый слой, блокирующий прикосновения, и динамически обновлять свою инфраструктуру командования и управления, чтобы избежать обнаружения.
Проблема сжатой временной шкалы
Наиболее тревожное следствие раскрытия информации Google заключается не в изощрённости какой-либо отдельной атаки, а в скорости, с которой развивается угроза. Исследователи в области безопасности отслеживали показатель времени до эксплуатации — промежуток между обнаружением уязвимости и её превращением в оружие — который сократился с в среднем 700 дней в 2020 году до всего 44 дней в 2025 году. ИИ ещё больше сжимает этот временной интервал.
Для защитников расчёты меняются. Циклы обновлений, которые когда-то предоставляли недели запаса, теперь обеспечивают лишь дни. Триаж уязвимостей, который требовал участия старших специалистов по безопасности, всё чаще может быть автоматизирован злоумышленниками с использованием тех же больших языковых моделей, которые защитники используют для обзора кода. Асимметрия, которая всегда была в пользу нападателей — которым нужно найти лишь одну уязвимость, в то время как защитники должны защищать всё — усиливается с помощью ИИ.
Раскрытие информации компанией Google является лишь одним из данных, а не аномалией. Сообщество специалистов по безопасности ожидало такого развития событий в течение многих лет. Теперь вопрос в том, сможет ли защитное использование ИИ идти в ногу с наступательным использованием — и движутся ли учреждения, отвечающие за политику кибербезопасности, достаточно быстро, чтобы реагировать.