«Скам-детектор работает на самом устройстве»: Google DeepMind и GovTech Singapore дообучили Gemma для распознавания мошеннических разговоров

От фишинга к разговору: почему одной модели общего назначения мало

Тактики скама, по описанию авторов, сдвинулись от простого фишинга к сложной социальной инженерии: атакующий сначала ведёт убедительную переписку и только потом просит деньги. Именно на такие случаи приходится до 80% всех потерь, тогда как сами мошенничества — инвестиционное, фальшивые вакансии, выдача себя за публичных должностных лиц — дают более половины зарегистрированных в стране преступлений.

Универсальные модели, по объяснению Google DeepMind, плохо распознают локальные приёмы обмана, и это делает задачу обнаружения сложнее. Поэтому для неё взяли не общий вариант, а дообученный на местных сценариях.

Группа работала вместе с Government Technology Agency of Singapore (GovTech Singapore) в рамках National AI Partnership с правительством Сингапура; результатом стало совместно дообученное privacy-preserving-модель для распознавания скама на устройстве.

Что именно дообучили

Основой стала лёгкая модель Google Gemma, дообученная на локальных мошеннических разговорах — от выдачи себя за государственные учреждения, банки и местных публичных лиц до региональных схем, которые были в тренде.

Цель формулируется так: научить дообученную модель отличать безобидную светскую переписку от настоящей манипуляции, когда её поставят в приложениях, установленных у граждан.

В отличие от традиционного поиска угроз, который опирается на серверную проверку сообщений в облаке, эта модель обрабатывает данные разговора непосредственно на устройстве.

При интеграции в приложения это, по замыслу партнёров, должно ускорять анализ паттернов разговора и помогать человеку действовать раньше — до того, как он потеряет деньги или учётные данные.

Приватность и поэтапное внедрение

Развёртывание модели в приложениях будет аккуратно поэтапным и ведётся в партнёрстве с правительством Сингапура. При развёртывании модель сможет обращаться к разговорам на устройстве только с согласия пользователя и в соответствии с условиями использования конкретного приложения.

Поскольку модель работает полностью на устройстве, ни правительство Сингапура, ни Google не смогут получить доступ к переписке пользователей через такое развёртывание, утверждается в публикации.

«Борьба со скамом не должна означать отказ от личной приватности. Работая с Google DeepMind, мы переносим продвинутую ИИ-защиту прямо на устройства граждан. Это позволяет нам ловить узко нацеленные локальные попытки обмана в реальном времени, сохраняя личную переписку приватной», — приводит страница слова Mark Chen, Director, Trust and Safety в GovTech Singapore.

Двухступенчатый конвейер и предупреждение в реальном времени

Когда модель обнаруживает манипулятивные паттерны разговора, она запускает предупреждение в реальном времени прямо на устройстве пользователя: система советует приостановиться и проявить осторожность, прежде чем делиться чувствительной информацией или деньгами.

Запуск сложного классификатора скама на современных смартфонах — непростая задача, и экономия батареи здесь критична, поэтому применён двухступенчатый конвейер.

Первая ступень — лёгкий и эффективный классификатор, который с минимальным энергопотреблением просматривает входящие сообщения и нацелен на потенциальные угрозы.

Вторая ступень — анализ в контексте с помощью дообученной Gemma: модель смотрит более крупный снимок разговора, чтобы подтвердить угрозу или отбросить ложное срабатывание.

Управление и данные

Работа была представлена на Singapore International Cyber Week (SICW 2026) и, по словам авторов, даёт образец для мессенджеров, которым нужно балансировать защиту пользователей и сквозное шифрование.

Дообучение проходило в Sovereign Sandbox — управляемой и поддерживаемой GovTech Singapore среде GCP, что изолировало обучающие данные.

Обучение строго исключало приватные и персональные данные: использовались анонимизированные наборы, построенные на отчётах о скаме и потоках разведданных.

Модель проверяли на синтетических диалогах и локальных корпусах, чтобы покрыть разные категории обмана и эволюционирующие тактики выдачи себя за других.

Что дальше

В публикации проект называют демонстрацией того, что ИИ может противодействовать преступности, не жертвуя безопасностью и приватностью, и примером совместной работы государства и поставщика моделей ради общественной пользы.

Авторы обещают поделиться подробностями сотрудничества с правительством Сингапура и говорят, что изучают возможность развернуть похожую технологию в других странах.

Материал вышел 14 октября 2026 года в разделе Responsibility & Safety; авторы записи — JJ Geewax и Miguel de Andrés. Конкретные оценки потерь и доли преступлений принадлежат Google DeepMind и GovTech Singapore и не являются независимо измеренным результатом.