«Реклама выглядит безобидной, а ведёт к запретному»: Meta раскрыла новые ИИ-меры против детской сексуальной эксплуатации

Поводом стала рекламная схема

Meta 7 октября 2026 года опубликовала в своём ньюсруме перечень дополнительных мер, которые уже ввела для борьбы с сексуальной эксплуатацией детей на своих платформах. Сама компания описывает это как продолжение работы, которая «не останавливается», а не как разовую кампанию: злоумышленники, по её формулировке, не держатся в одном месте, перемещаются между платформами и меняют тактику, чтобы уходить от обнаружения.

Одной из поверхностей, где это стало видно, оказалась реклама. Разбор схемы выглядит так: объявление может выглядеть безобидным само по себе, но при этом скрытно направлять человека к нелегальным материалам, размещённым вне платформ Meta, — именно так злоумышленники пытаются обойти системы обнаружения.

Разобравшись в устройстве схемы, компания не остановилась на тех объявлениях, о которых ей сообщили. Расследование расширили, чтобы найти связанную активность по своим платформам, отключили нарушающие правила аккаунты и заблокировали внешние ссылки, задействованные в схеме.

После этого были развернуты дополнительные меры, включая новые ИИ-инструменты, чтобы противодействовать выявленным адверсариальным тактикам и повысить эффективность поиска рекламы, которая либо содержит материалы сексуального насилия над детьми (CSAM), либо ведёт людей к нарушающей правила активности вне платформ компании.

Пять конкретных добавлений

Первое — детекция на основе больших языковых моделей (LLM) для «сигнальных указателей» (signposting) на материалы сексуальной эксплуатации детей (CSE): речь о внешне безобидном рекламном контенте, который, по сильному подозрению компании, скрытно направляет людей к нелегальному контенту или вредной активности вне её платформ.

Второе — улучшенное понимание того, куда ведёт объявление, а не только того, что оно показывает: это позволяет блокировать нарушающие правила точки назначения и применять меры к ответственным за них аккаунтам.

Третье — дополнительные ИИ-обходы рекламного контента, чтобы находить материалы CSE, которые прежние системы не поймали; набор используемых сигналов компания продолжает расширять по мере расследования.

Четвёртое — ИИ-агент для ред-тиминга, который сам прощупывает защиты Meta в поисках слабых мест, чтобы новые адверсариальные тактики CSE выявлялись раньше, чем они наберут масштаб.

Пятое — усиленное выявление рецидивистов: механизмы, которые распознают тех, кто после удаления пытается завести новые аккаунты.

Что уже работает: сигналы, хеши и ссылки

Новые меры лежат поверх более широкого набора ИИ- и автоматизированных инструментов, которые проактивно ищут CSAM и связанные нарушения детской безопасности. Поведенческие сигналы анализируют комбинации метаданных и признаков поведения, чтобы находить аккаунты с подозрительными паттернами активности.

Технология PhotoDNA и другое сопоставление фото и видео используется во всех приложениях Meta с 2011 года для поиска идентичных или почти идентичных копий известных CSAM и их удаления. Компания поддерживает одну из крупнейших в отрасли баз хешей изображений и видео, добавляет в неё вновь выявленные хеши и делится ими с отраслью через программу Lantern Коалиции Tech Coalition, чтобы такой контент удаляли и другие участники. Та же технология применяется для поиска CSAM в превью внешних ссылок, а всё найденное этим способом передаётся правоохранительным органам при содействии NCMEC.

Отдельно компания блокирует ссылки на внешние сайты, где размещён или создаётся нарушающий правила контент. После блокировки ссылки Meta ищет и удаляет другие материалы с ней — объявления, посты и комментарии — и не даёт публиковать такой контент в Facebook, Instagram и Threads, а объявления с заблокированной ссылкой отклоняются ещё при загрузке.

К этому добавляются эвристические правила, которые объединяют автоматические классификаторы, ИИ-модели и другие сигналы, чтобы в масштабе проактивно находить новые и только появляющиеся паттерны нарушений — в том числе в рекламе.

Цифры и работа с властями

Масштаб компания измеряет так: с января по июнь 2026 года во всём мире она отработала 33,2 млн единиц контента сексуальной эксплуатации детей в Facebook и Instagram, и более 97% из них были найдены и проактивно отработаны до того, как кто-либо о них сообщил. В Индии за тот же период — 5,3 млн единиц такого контента, из них более 98% найдено проактивно, до чьей-либо жалобы.

Отдельное направление — взаимодействие с властями. В сентябре Meta объявила, что будет сообщать о случаях, связанных с безопасностью детей, напрямую в National Cyber Crime Reporting Portal (cybercrime.gov.in), которым управляет Индийский координационный центр по киберпреступности (I4C). Это дополняет существующую практику, при которой о материалах сексуального насилия над детьми компания сообщает правоохранительным органам через тот же портал при содействии NCMEC.

Компания отдельно описывает и ручную часть работы: команда экспертов, включая бывших следователей ФБР, проводит расследования, чтобы проактивно находить, удалять и передавать в отчётность сети хищнических аккаунтов — действовать против сети целиком, а не по одному аккаунту. Публикация в ньюсруме при этом отнесена к категориям «Homepage — Hidden» и «India Newsroom», а её заголовок описывает меры как дополнительные.