uniopen дообучила Amazon Nova 2 Lite под свою модерацию: обе метрики обошли продакшн-пороги

Задача: две оси модерации

uniopen — цифровая коммуникационная и membership-платформа группы Uni-President Enterprises (Тайвань): она связывает клиентов с электронной коммерцией, бонусами участника и другими ритейл-сценариями через веб, планшеты и мобильные каналы.

Во всех этих каналах платформа применяет политику модерации, которая классифицирует каждое взаимодействие по двум осям: что за поведение произошло (девять категорий) и к какому предмету оно относится (brand, other или forbidden).

Оба ответа должны быть верны, чтобы решение модерации было полезным, и оба специфичны для бизнеса uniopen — универсальная модель не может выучить их «из коробки».

Как устроено решение

Архитектура разводит продакшн-путь модерации и контур исправлений, обучения, оценки и деплоя.

Основные запросы обслуживает Amazon Nova 2 Lite, а Amazon Nova 2 Pro генерирует черновые исправления для сообщённых ошибок — но каждое исправление обязан проверить человек, прежде чем оно попадёт в обучающий набор.

Проверенный набор исправлений и обучающие данные хранятся в Amazon S3, а Amazon DynamoDB отслеживает активные и кандидатные конфигурации моделей.

Промпт-оптимизацию, оценку и деплой оркестрирует Argo Workflows на Amazon Elastic Kubernetes Service (Amazon EKS), одобренные конфигурации применяет Argo CD, а о падении жёсткого гейта или о кандидате, требующем внимания, операторов уведомляют Amazon Simple Notification Service (Amazon SNS) и Amazon CloudWatch.

Человек остаётся в контуре

Ручная проверка обязательна для неоднозначных случаев и для исправлений, которые повторно используются как обучающие данные.

Фиксированные тестовые наборы и регрессионные проверки не дают автоматически продвинуть кандидата при падении качества.

Дополнительно команда может включать контентные фильтры Amazon Bedrock Guardrails на входе и выходе модели, следить за ошибками по категориям поведения и предмета, минимизировать объём хранимых данных клиентов и пересматривать пороги при изменении политик модерации.

Как измеряли качество

Единицей учёта выбрано «окно разговора» (conversation window) — ограниченный фрагмент переписки клиента, который считается одним примером для обучения или оценки.

Все три конфигурации оценивались на одном и том же отложенном наборе из 737 таких окон, а набор для дообучения содержал 3 391 окно.

Per Behavior Macro F1 показывает, насколько ровно модель различает все девять видов поведения: каждая категория вносит равный вклад, поэтому сильные результаты на частых и простых категориях не могут замаскировать провал на сложных.

Subject Type Macro F1 измеряет то же самое для типа предмета — brand, other или forbidden: решение полезнее, когда система не только видит нарушение, но и понимает, к кому оно относится.

Стартовая точка

Без дообучения Amazon Nova 2 Lite показала Per Behavior Macro F1 0,5852 и Subject Type Macro F1 0,4162 — по оценке AWS, модели не хватало понимания специфичной таксономии модерации uniopen для продакшна.

Дообучение и правка промпта

Команда дообучила Amazon Nova 2 Lite методом supervised fine-tuning с Low-Rank Adaptation (LoRA) в Amazon SageMaker AI, чтобы модель училась на примерах задачи, а не только на инструкциях в промпте.

Дообучение дало основной прирост: Per Behavior Macro F1 вырос с 0,5852 до 0,8364, Subject Type Macro F1 — с 0,4162 до 0,8302.

После этого ответ модели упростили на уровне промпта — с JSON до построчного формата — и уточнили, как возвращать несколько поведений сразу; дополнительное обучение не потребовалось.

Правка промпта подняла Per Behavior Macro F1 с 0,8364 до 0,8550, Subject Type Macro F1 — с 0,8302 до 0,8491, и обе метрики превысили продакшн-пороги 0,8500 и 0,8200.

Жёсткие и мягкие гейты

Продвижение кандидата контролируют проверки двух видов: жёсткие гейты — обязательные регрессионные тесты, мягкие — предупреждающие сигналы вроде низкой уверенности модели или падения по отдельному классу.

Провал жёсткого гейта останавливает процесс и отправляет алерт; кандидаты, прошедшие жёсткий гейт, проверяются на мягкие сигналы: без предупреждений кандидат может быть продвинут автоматически, при срабатывании — остаётся ждать проверки и одобрения администратора.

Использование обеих метрик как релизных гейтов не дало улучшению в одном измерении скрыть регрессию в другом.

Что это дало и что дальше

После выхода обеих метрик за целевые значения uniopen смогла направить рутинную модерацию по настроенному пути, а ручную проверку оставить для неоднозначных случаев — AWS описывает это как снижение лишних эскалаций при сохранении точки человеческого решения для неопределённого или чувствительного к политикам контента.

Команда продолжит использовать Per Behavior Macro F1 и Subject Type Macro F1 как продакшн-гейты, будет собирать новые пограничные случаи из реального трафика и по ним решать, нужна ли правка промпта или очередной цикл точечного дообучения.

Доступность моделей Amazon Nova различается по регионам AWS.

Все числа в материале — из публикации AWS и её авторов; независимых замеров вне AWS мы не приводим.