Этика
Расследование Guardian выявляет инфраструктуру, стоящую за приложением для дипфейков ClothOff
Вторая фаза репортажа отслеживает сети, платежные системы и хостинговые службы, способствующие созданию несогласованных сексуальных дипфейков. Расследование выявляет пробелы в обеспечении правопорядка на платформах, у платежных процессоров и в правоохранительных органах.
Майкл С ·
Продолжающееся расследование The Guardian в отношении ClothOff — приложения, используемого для создания несогласованных сексуальных дипфейков, выявило инфраструктуру и человеческие сети, поддерживающие сервис, несмотря на растущие юридические проблемы и общественное возмущение. Второй эпизод расследования раскрывает, как приложение работает в разных юрисдикциях через распределённый хостинг, несколько платёжных каналов и минимальную проверку возраста, создавая пробелы в подотчетности, позволяющие создателям и дистрибьюторам избежать обнаружения. Расследование документирует, как жертвы находят свои изображения в интернете часто спустя месяцы после создания, при этом операторы платформ или хостинг-провайдеры берут на себя ограниченную ответственность за пользовательский контент.
Техническая архитектура приложения распределяет обработку данных между несколькими серверами в странах с различными правовыми рамками, регулирующими дипфейки и изображения без согласия. Согласно расследованию, операторы ClothOff неоднократно меняли местоположения хостинга под давлением закона, затрудняя правоохранительным органам возможность вручать уведомления или получать сотрудничество. Платежные системы разорвали отношения с связанными аккаунтами, но в ходе расследования были выявлены доказательства использования альтернативных методов оплаты для возобновления обслуживания, что предполагает, что операторы адаптировали источники дохода, а не прекращали деятельность. Механизм взимания сборов с пользователей остается скрытым, а транзакции проходят через посредников, скрывающих конечного получателя. Расследование The Guardian документирует отчётность, лежащую в основе этой записи.
Центральный вопрос ответственности платформ касается обязанностей провайдеров хостинга, платежных сетей и дальнейших сервисов. Расследование изучало, проводили ли эти посредники должную проверку клиентов или реагировали на сообщения о злоупотреблениях. Большинство компаний, с которыми связывались, отказались комментировать конкретные инциденты или заявили, что полагаются на сообщения пользователей и судебные процедуры для выявления проблемного контента. Платежные процессоры обычно заявляли, что прекращают работу с торговцами при обнаружении незаконной деятельности, но расследование показало, что повторная регистрация через различные юридические лица позволяла возобновлять транзакции. Провайдеры хостинга аналогично утверждали, что удаляют контент при получении действительных юридических требований, но часто не имеют механизмов для прямого сообщения о злоупотреблениях со стороны потерпевших или исследователей.
Проверка возраста и риски эксплуатации
Расследование выявило минимальные возрастные гарантии в процессе адаптации пользователей приложения. Согласно сообщениям, ClothOff не собирает государственных удостоверений личности и опирается на самоуведомленные возрастные декларации. Этот разрыв создаёт риск создания и распространения дипфейковых изображений с изображением несовершеннолетних, которые по закону считаются материалами о сексуальном насилии над детьми в большинстве юрисдикций. T Национальный центр помощи пропавшим и эксплуатируемым детям имеются задокументированные случаи, связанные с дипфейками, хотя организация сообщает, что многие такие случаи не фиксируются платформами или сообщаются слишком поздно, чтобы сохранить доказательства. Исследователи и защитники прав призвали платформы и платежные системы внедрить более строгие системы проверки возраста, особенно для сервисов, которые создают или распространяют сексуальный контент.
Инициатива кибер-гражданских прав и аналогичные организации выпустили материалы, документирующие, как жертвы могут сообщать о несогласованных дипфейках и сохранять доказательства. StopNCII.org, работающая при поддержке крупных платформ и платежных компаний, предоставляет базу данных и механизм отчетности для изображений, размещенных без согласия. Тем не менее, расследование выявило, что специализированные рабочие процессы по отчетности о дипфейках остаются несогласованными на разных платформах, и многие жертвы сообщают о путанице относительно того, куда подавать жалобы, и приводят ли их жалобы к удалению контента. Правоохранительные органы, с которыми связались во время расследования, сообщили, что получают жалобы, но сталкиваются с трудностями в установлении личности правонарушителей в разных международных юрисдикциях и в обеспечении сотрудничества компаний, которые неохотно сохраняют или передают пользовательские данные без официальной юридической процедуры.
Пробелы в обеспечении соблюдения и вопросы политики
Расследование выявляет системные пробелы в обеспечении законодательства, которыми пользуются ClothOff и подобные сервисы. Платежные процессоры используют системы обнаружения, предназначенные в первую очередь для выявления мошенничества и нарушений санкций, а не контента с несанкционированным сексуальным характером. Провайдеры хостинга заявили, что они полагаются на претензии в отношении интеллектуальной собственности, судебные постановления или запросы правоохранительных органов для удаления контента, что означает, что несогласованные дипфейки продолжают существовать, если жертва или уполномоченная сторона не инициирует официальную жалобу. Несколько юрисдикций ввели или предложили законодательство, криминализирующее создание и распространение несогласованных дипфейков, но его обеспечение остается ограниченным из-за возможностей расследования, вопросов трансграничной юрисдикции и трудностей с установлением авторства контента конкретными лицами, когда инструменты широко распространены. Для более широкого контекста, Инициатива кибер-гражданских прав излагает соответствующий стандарт или учреждение.
Эксперты, с которыми консультировало расследование, отметили, что системы модерации контента на основе платформ, включая инструменты машинного обучения, предназначенные для обнаружения изображений без согласия, достигли ограниченной эффективности в случае дипфейков, поскольку изображения создаются с помощью вычислительных методов, а не являются фотографиями. Система Рамочная система управления рисками ИИ NIST и аналогичные руководящие документы рекомендовали организациям, внедряющим технологии синтетических медиа, проводить оценку воздействия и внедрять меры защиты от злоупотреблений, однако внедрение остаётся неравномерным среди коммерческих поставщиков. Некоторые исследователи утверждают, что распространение инструментов для создания дипфейков без встроенных ограничений на создание сексуального контента представляет собой значительный пробел, так как ответственность полностью возлагается на промежуточные платформы и органы правоприменения, а не на самих разработчиков инструментов.
Расследование документирует, как жертвы испытывают нарастающий вред, когда их попытки удалить несогласованные дипфейки сталкиваются с бюрократическими препятствиями или равнодушием со стороны операторов сервисов. Несколько опрошенных сообщили, что обнаружили свои изображения, опубликованные на разных платформах, и были вынуждены подавать отдельные жалобы на каждый сайт. Некоторые утверждали, что ответы платформ задерживались или контент появлялся снова после удаления. Одна из жертв описала этот опыт как дегуманизирующий и отметила, что вред репутации распространяется на профессиональные и личные отношения, когда другие сталкиваются с ложными изображениями. Эти аккаунты подчёркивают, как правоохранительное обеспечение и ответственность платформ напрямую влияют на способность людей выйти за рамки нарушений.
Международная координация в области регулирования дипфейков остается на начальной стадии. The Принципы ИИ ОЭСРпринятые государствами-членами и отражённые в новых нормативных рамках, таких как Закон ЕС об ИИ, требуют прозрачности, человеческого участия и подотчётности в системах, использующих искусственный интеллект. Однако большинство рамочных документов касаются систем ИИ, используемых организациями, а не инструментов, распространяемых среди миллионов пользователей. Расследование показало, что у правоохранительных органов отсутствуют установленные протоколы для расследования трансграничных случаев появления дипфейков, а компании не имеют постоянного обязательства сохранять доказательства для проведения расследования. Эксперты, опрошенные Guardian, предположили, что решение проблем инфраструктуры, обеспечивающей создание дипфейков без согласия, потребует координированных действий со стороны правоохранительных органов, регуляторов, платёжных систем и хостинг-провайдеров, в сочетании с разработкой технологий для обнаружения и предотвращения злоупотреблений на этапе создания инструмента, а не только на стадии его распространения.
Темы: дипфейки, сексуальное насилие, ответственность платформ, расследование, цифровые права