Этика
Гонка вооружений по обнаружению дипфейков ускоряется — и защитники проигрывают
По мере того как синтетические медиа, созданные с помощью ИИ, становятся неотличимыми от подлинного контента, компании, разрабатывающие инструменты для их обнаружения, испытывают трудности с темпом работы генераторов. Новый отчет документирует растущий разрыв.
Майкл С ·
В январе 2024 года сотрудник финансового отдела международной компании в Гонконге перевел 25 миллионов долларов мошенникам после участия в видеоконференции, на которой все остальные участники — включая финансового директора компании — были дипфейками. На тот момент это был самый дорогостоящий случай мошенничества с использованием дипфейков, когда-либо зафиксированный. По стандартам 2026 года это уже не кажется удивительным. Технологии улучшились, инструменты стали дешевле и доступнее, а разрыв между тем, что может создать ИИ, и тем, что могут выявить системы обнаружения, значительно увеличился.
Новый отчет Института судебной экспертизы ИИ, опубликованный на этой неделе, документирует текущее состояние сферы обнаружения дипфейков с необычной откровенностью. Основной вывод отчета ясен: лучшие доступные коммерческие инструменты обнаружения корректно идентифицируют видео, сгенерированное ИИ, примерно в 65% случаев в реальных условиях. Лучшие инструменты генерации создают контент, который обманывает человеческих наблюдателей примерно в 85% случаев. Эта асимметрия не нова, но она растет.
Технические причины этой асимметрии хорошо понятны. Системы обнаружения обучены идентифицировать конкретные артефакты — несоответствия в освещении, неестественные модели моргания, тонкие искажения вокруг линии волос — которые характерны для выходных данных систем текущего поколения. Но системы генерации также обучаются, отчасти, чтобы избегать этих артефактов. Результат — классическая адверсарная динамика: каждое улучшение возможностей обнаружения в конечном итоге сравнивается с улучшениями генерации, и системы обнаружения всегда пытаются догнать.
Обнаружение по своей сути является реактивным. Вы можете обнаружить только те артефакты, которые знаете, что нужно искать, а генераторы постоянно создают новые. Мы участвуем в гонке, которую не можем выиграть исключительно на технической основе.
Ведущий исследователь, Институт судебной экспертизы ИИ
Последствия выходят далеко за рамки финансового мошенничества. Избирательная кампания 2026 года во многих странах отмечена распространением синтетических медиа, демонстрирующих кандидатов, якобы произносящих слова, которых они никогда не говорили. В нескольких случаях видео с дипфейками было поделено миллионы раз до того, как было идентифицировано как синтетическое. Идентификация, когда она происходила, охватывала лишь малую часть первоначальной аудитории. Проблема исправления — хорошо задокументированная тенденция к тому, что ложная информация распространяется быстрее и дальше, чем исправления — значительно усиливается, когда ложная информация представлена в виде видео.
Несколько технологических компаний предложили технические решения проблемы происхождения. Стандарт C2PA, который теперь поддерживается Adobe, Microsoft, Google и несколькими крупными производителями камер, внедряет криптографические подписи в контент на этапе его создания. Контент, который был существенно изменён после создания, будет иметь сломанную или отсутствующую подпись. Этот подход решает проблему происхождения для контента, созданного совместимыми устройствами и программным обеспечением, но ничего не делает для контента, созданного несоответствующими инструментами — а это включает все современные системы генерации дипфейков.
Отчет Института судебной экспертизы ИИ рекомендует комбинацию технических, юридических и социальных подходов. С технической стороны он призывает к увеличению инвестиций в исследования по обнаружению и к тому, чтобы инструменты обнаружения были свободно доступны журналистам, избирательным комиссиям и организациям гражданского общества. С юридической стороны он рекомендует уголовные наказания за использование дипфейков для финансового мошенничества и вмешательства в выборы, а также гражданскую ответственность платформ, которые сознательно размещают синтетические медиа без уведомления. С социальной стороны он призывает к образовательным программам по медиаграмотности, которые помогают людям понять ограничения их интуитивной способности выявлять синтетический контент.
Ни одна из этих рекомендаций не является новой, и разрыв между рекомендацией и её реализацией остаётся большим. Изменилось одно — срочность. Технология больше не является теоретической или экспериментальной — она развёрнута, доступна и используется для причинения вреда в широких масштабах. Окно возможностей опередить проблему, если оно когда-либо существовало, быстро закрывается.