«Люди, эксплуатирующие детей, редко остаются на одной платформе»: Runway вошла в Tech Coalition и Lantern

Что произошло

Runway объявила, что вошла в Tech Coalition — глобальный альянс технологических компаний, совместно борющихся с онлайн-сексуальной эксплуатацией и насилием над детьми (OCSEA).

Компания также присоединилась к Lantern — программе обмена сигналами внутри Tech Coalition.

Что такое Tech Coalition и Lantern

Сам альянс описывает себя как объединение мировой технологической индустрии для защиты детей от онлайн-сексуальной эксплуатации и насилия.

Tech Coalition называет себя равноправным сообществом, которое индустрия построила, чтобы бороться с OCSEA в масштабе.

Программа Lantern запущена в 2023 году и выросла в отраслевую инфраструктуру для скоординированных действий против онлайн-эксплуатации детей.

По её описанию, ведущие технологические компании ежедневно обмениваются через Lantern критически важными данными об угрозах детской безопасности и используют их, чтобы делать платформы безопаснее и удалять вредный контент и нарушителей.

Зачем нужен обмен сигналами

Нарушители используют разрывы между платформами, сервисами, юрисдикциями и индустриями, чтобы уходить от обнаружения.

Поскольку OCSEA часто охватывает несколько сервисов, ни одна компания не может эффективно противостоять этой угрозе в одиночку.

«Люди, эксплуатирующие детей, редко остаются на одной платформе»: нарушитель, заблокированный в одном сервисе, продолжает действовать в другом.

Lantern позволяет участвующим компаниям безопасно обмениваться сигналами об активности, нарушающей их правила в отношении OCSEA.

Такие сигналы помогают связывать разведданные между сервисами, распознавать схемы злоупотреблений и реагировать быстрее.

Когда компания обнаруживает OCSEA у себя, она действует по своим правилам детской безопасности и правовым обязательствам, а через Lantern может безопасно передать сигнал — сведения, которые помогут другим компаниям выявить OCSEA на их платформах.

Получившие сигнал компании самостоятельно оценивают информацию и проверяют возможные нарушения своих правил, прежде чем принимать меры.

Сигналы — это индикаторы угроз, разведданные или иная информация, связанная с OCSEA.

Каждая компания сама решает, какие сигналы передавать и принимать, исходя из своих правил, правовых обязательств и оценки релевантности.

Какие сигналы ходят через Lantern

Сигналы о контенте касаются материалов, распространяемых онлайн: известного CSAM, пособий по грумингу и других незаконных изображений, видео, аудио или текста.

Среди примеров — хеши известного CSAM для обнаружения и предотвращения повторного распространения, URL страниц с OCSEA и ключевые или кодовые слова, которыми нарушители пытаются обойти обнаружение.

Сигналы об инцидентах касаются поведения и взаимодействий: повторных нежелательных контактов с несовершеннолетними, попыток увести переписку с ними за пределы платформы и финансовых требований или вымогательства в адрес несовершеннолетних.

Что это даёт Runway

Runway будет использовать сигналы Lantern для усиления собственных систем поиска и расследований, а взамен передавать сигналы из своей практики правоприменения по OCSEA.

Участие в Tech Coalition открывает команде безопасности компании доступ к отраслевым рекомендациям, исследованиям и коллегам, решающим те же задачи, и позволяет делиться с сообществом собственным опытом.

Компания называет эту работу особенно важной потому, что пространство генеративных медиа быстро развивается, в том числе в сторону форматов реального времени.

Масштаб программы

Lantern работает на платформе ThreatExchange, которую для безопасного обмена данными разработала Meta, а участие в программе требует прохождения проверки.

Программа не выполняет автоматических действий по правоприменению: компании сами рассматривают сигналы и решают, уместны ли меры по их собственным правилам.

По данным Tech Coalition, сейчас в Lantern участвует 41 компания, а за 2023–2025 годы через программу передано 2 047 982 сигнала, что дало 353 806 мер платформенного правоприменения.

Из них 164 575 приходится на аккаунты, 163 112 — на URL, а 26 119 — на единицы контента.

На что опирается членство

Членство продолжает работу, описанную в посте Runway «Our Approach to Child Safety», который следует принципам Safety by Design организации Thorn.

Среди уже принятых мер — фильтрация обучающих данных с хеш-сопоставлением, классификаторами детской безопасности и модерацией на базе LLM.

Перед выпуском каждой модели Runway проводит ред-тиминг текста, изображений, видео и аудио.

Весь загружаемый пользователями контент проверяется по базам хешей известных материалов сексуального насилия над детьми (CSAM), плюс работает классификатор, выявляющий ранее неизвестный CSAM.

Весь помеченный контент проверяется вручную, а подтверждённый CSAM передаётся в NCMEC; контент, созданный инструментами Runway, получает происхождение C2PA.

«Ни одна компания не решит это в одиночку», — заключает Runway, обещая продолжать инвестировать в партнёрства и обновлять защиты по мере смены угроз.