Безопасность
Агентский программ-вымогатель превращает киберриски ИИ из теории в рабочий процесс
Команды по безопасности готовятся к вымогательскому ПО, которое использует ИИ-агентов для автоматизации разведки, обнаружения привилегий, подготовки данных, ведения переговоров и адаптации внутри корпоративных систем.
Автор: Лео В ·
Следующий ransomware проблема заключается не только в более быстром фишинге или более чистом тексте вредоносного ПО. Проблема в возможности того, что злоумышленники используют Агенты ИИ превратить проникновение в управляемый рабочий процесс, который может искать, суммировать, адаптировать и решать, что делать дальше внутри скомпрометированной среды.
Это изменение имеет значение, потому что защитники создали множество средств контроля вокруг человеческого темпа. Человеческому оператору необходимо проверять файлы, читать имена файлов, тестировать учетные данные, перемещаться по сети, сжимать данные и готовить вымогательские сообщения. Агентический рабочий процесс может ускорить эти шаги и сохранить достаточно контекста, чтобы атака казалась менее срежиссированной.
Злоумышленнику все еще нужен доступ. Искусственный интеллект не устраняет необходимость в учетных данных, уязвимостях, неправильных конфигурациях или социальной инженерии. Но оказавшись внутри, цепочка инструментов, связанная с моделью, может помочь приоритизировать цели, генерировать команды, суммировать журналы, составлять приманки, анализировать внутренние документы и рекомендовать, где давление будет наиболее эффективным.
Вот почему риск носит операционный характер, а не театральный. Командам безопасности не нужно представлять себе полностью автономный криминальный суперразум. Им нужно представить себе компетентного младшего оператора, который никогда не спит, быстро читает, помнит все, что видел, и может проходить контрольные списки с машинной скоростью.
Оборонительный ответ начинается с идентичности. Если агент ИИ может выполнять только те действия, которые может выполнять скомпрометированный аккаунт, то принципы минимальных привилегий, сильная аутентификация, условный доступ и мониторинг сессий становятся еще более важными. Каждый аккаунт с чрезмерными правами становится стартовой полосой для автоматизированного обнаружения.
Следующий уровень — наблюдаемость. Один странный запрос может не свидетельствовать о атаке. Последовательность действий, таких как перечисление файлов, проверка привилегий, создание архивов и попытки передачи данных наружу, рассказывает более убедительную историю. Обнаружение должно понимать цепочки поведения, а не только отдельные оповещения.
Компаниям также нужны политики для собственных агентов. Внутренние инструменты ИИ, которые могут взаимодействовать с тикетами, кодом, облачными консолями или документами, должны оставлять следы аудита. В противном случае защитникам может быть сложно отличить санкционированную автоматизацию от враждебной автоматизации во время инцидента.
Неприятная правда заключается в том, что агентский вымогательский вирус не требует от злоумышленников изобретать новый интернет. Он использует ту же растущую инфраструктуру предприятий, с которой защитники уже борются: токены SaaS, облачные идентификаторы, файловые хранилища, инструменты для совместной работы и API.
Организации, которые добьются наибольших успехов, не будут теми, у кого самый эффектный меморандум по политике ИИ. Это будут те, кто знает, какие идентификации могут взаимодействовать с какими системами, какие автоматизации разрешено запускать и как быстро они могут прервать рабочий процесс, если он начнет вести себя как злоумышленник.
Темы: агентский вымогательский софт, ИИ-безопасность, киберриск, предприятие