$14 за место в месяц: как MRH Trowe выдала 400 сотрудникам ИИ-агентов в регулируемом контуре

Задача: самообслуживание без потери контроля

Базового ИИ-чата недостаточно организациям финансового сектора, которым нужны безопасные ИИ-агенты самообслуживания: сотрудникам требуется ИИ, способный работать с внутренними системами и чувствительными клиентскими данными, оставаться внутри управляемого контура и быть проверяемым и прозрачным по стоимости.

MRH Trowe — коммерческий и промышленный страховой брокер под управлением собственников, работающий преимущественно в Германии, Швейцарии и Австрии, и одна из первых немецких брокерских компаний, полностью переведших ИТ-инфраструктуру в облако. Использование ИИ здесь — стратегическая корпоративная цель, направленная на упрощение внутренних процессов и рост эффективности.

Спрос на генеративный ИИ рос по всей компании, и отдельные команды начали экспериментировать самостоятельно — это создавало риск разрозненных инструментов без управления и потенциального раскрытия чувствительных клиентских данных и данных страхования.

Внутренняя формулировка цели звучит так: «каждый вопрос сначала должен получить ответ от ИИ, прежде чем вмешается человек, а повторяющиеся процессы должны автоматизировать те, кто выполнял их в прошлом». Нужно было дать сотрудникам самим собирать и использовать агентов быстро и без глубоких технических навыков — но внутри защищённого централизованно управляемого контура, соответствующего требованиям защиты данных и комплаенса финансового сектора.

Базовые чат-интерфейсы не закрывали четыре требования сразу: контекстные ответы с опорой на внутренние данные, многошаговые рабочие процессы, безопасные подключения к внутренним системам и централизованное управление вместо теневого ИИ по командам. Масштаб результата в публикации назван прямо: около 400 сотрудников получили безопасный доступ к агентам самообслуживания, и этого уровня развёртывание достигло в первый месяц работы в продакшене.

Три строительных блока

Сборщики MRH Trowe используют Strands Agents — открытый SDK, создающий агентов в несколько строк кода: он берёт на себя паттерны агентов, включая оркестрацию и рассуждение, и масштабируется от ноутбука разработчика до продакшена, чтобы команды занимались сценарием, а не инфраструктурой.

Для продакшен-запуска выбран Amazon Bedrock AgentCore — платформа для сборки, подключения и оптимизации агентов в масштабе с любым фреймворком и любой моделью. Решающими стали три свойства: нативная поддержка открытых фреймворков вроде Strands Agents, изоляция каждой сессии агента на уровне вычислений и файловой системы и модель оплаты за потребление, дающая прозрачность стоимости по мере роста внедрения.

Третьим блоком стал LibreChat — открытая альтернатива коммерческим чат-интерфейсам, которая даёт знакомый и брендируемый опыт работы. Нужные регулируемой организации контроли в публикации перечислены отдельно: управление пользователями с аутентификацией и авторизацией, встроенные токен-бюджеты против неожиданных расходов, поддержка нескольких моделей без привязки к одному поставщику, управление диалогами и настраиваемый интерфейс под фирменный стиль.

Первый агент: протокол встречи из Microsoft Teams

Первый агент, вышедший в продакшен, превращает встречу в Microsoft Teams в готовый протокол: сотрудник на немецком просит найти недавнюю встречу с конкретным участником, агент находит её в календаре этого сотрудника, забирает транскрипт и собирает структурированную сводку с датой, участниками, повесткой, темами и задачами. Ручные заметки после каждого звонка превращаются в запрос из одной строки.

Безопасность для регулируемого брокера обеспечивают два решения. Первое: каждый запрос выполняется от имени вошедшего сотрудника — LibreChat аутентифицирует через Microsoft Entra ID и передаёт идентичность агента на стороне сервера, поэтому агент может дотянуться только до календаря и транскрипта этого сотрудника, а задать идентичность из окна чата нельзя. Второе: обработка не покидает регион — агенты, модель и данные работают в регионе AWS Europe (Frankfurt), а клиентские данные и данные встреч остаются в Германии.

Архитектура: один аккаунт и приватная связность

Решение развёрнуто в одном аккаунте AWS внутри виртуального частного облака, а сотрудники подключаются из корпоративной сети. Доступ из любого места организован связкой transit gateway и провайдера нулевого доверия: трафик идёт по приватному выделенному соединению, а не через публичный интернет, и внутренний Application Load Balancer маршрутизирует запросы в прикладной уровень.

Сам чат работает как контейнерные сервисы на Amazon Elastic Container Service (Amazon ECS) с AWS Fargate в качестве launch type — включая сервис LibreChat, сервис RAG API и MeiliSearch для быстрого текстового поиска без векторизации данных. Данные распределены по назначению: Amazon DocumentDB с совместимостью с MongoDB хранит пользователей, сессии и диалоги, Amazon ElastiCache отвечает за кэш и состояние сессий, Amazon RDS for PostgreSQL служит реляционным и векторным хранилищем для RAG API по загруженным документам, Amazon OpenSearch Service работает векторным хранилищем для Amazon Bedrock и обеспечивает поиск по контенту, загруженному из Confluence, Amazon Elastic File System хранит индексы MeiliSearch, а Amazon Simple Storage Service — загруженные файлы и артефакты чата.

Стратегия агентного слоя описана так: Strands Agents размещаются на AgentCore runtime, возможности Amazon Bedrock AgentCore, и выставляются в LibreChat через кастомные endpoints на AWS Lambda и Amazon API Gateway. Такой паттерн позволяет подгружать новых агентов в LibreChat без обновлений и простоя самого чат-приложения и разворачивать новые агентные приложения независимо по мере роста внедрения.

Как проходит запрос

Путь запроса в публикации разложен на пять шагов: сотрудник открывает LibreChat и выбирает агента в панели переключения; LibreChat аутентифицирует пользователя через существующего провайдера идентичности Microsoft Entra ID, а списки контроля доступа в админ-панели определяют, какие endpoints и модели ему доступны; при вызове агента LibreChat обращается к кастомному endpoint через API Gateway, защищённый API-ключом, либо, если endpoint поддерживает сценарий On-behalf-of, используется аутентификация пользователя.

Дальше функция AWS Lambda с ролью AWS Identity and Access Management (IAM) вызывает агент Strands, работающий на AgentCore runtime. Агент рассуждает над запросом, вызывает свои инструменты и разрешённые источники данных и возвращает ответ через LibreChat внутри изолированной управляемой сессии. Для контроля внедрения и расходов MRH Trowe построила отдельный дашборд использования, где видны уникальные пользователи, расход токенов по моделям и стоимость на пользователя.

Безопасность и соответствие требованиям

Работа в немецком финансовом секторе означает, что защита данных и управление не опциональны, поэтому архитектура выстроена слоями: резидентность данных в Германии — чувствительные клиентские данные и данные страхования остаются в выбранном регионе AWS; приватная связность — связка transit gateway и нулевого доверия не выпускает трафик сотрудников в публичный интернет; изоляция сессий — AgentCore runtime изолирует каждую сессию агента на уровне вычислений и файловой системы.

Поверх этого работают централизованное управление — единая управляемая среда вместо разрозненных инструментов, дающая организации видимость и контроль над использованием ИИ, — и сильная аутентификация с авторизацией: роли по группам Active Directory для единого входа и решения нулевого доверия.

Результаты и планы

Стоимость решения в публикации названа как инфраструктурные расходы и расходы на токены — около $14 за место в месяц. Кроме экономии контур стал фабрикой новых сценариев: самый свежий — «talk to your data», поддерживающий бизнес-аналитику вроде обзоров кросс-продаж и допродаж, где данные CRM соединяются с публично доступной информацией.

Внедрение сопровождали организационными изменениями: воркшопы по сценариям использования по командам для формирования и поддержки группы продвинутых пользователей и работа с данными о внедрении, чтобы находить этих пользователей и распространять их рабочие процессы на всю организацию. Формулировка члена правления MRH Trowe Leonid Karlinsky в публикации звучит так: «Если вы и ваш коллега делаете одно и то же дважды, подумайте о создании агента в LibreChat».

Целевой ориентир назван тоже: через сообщество практики по данным и ИИ MRH Trowe рассчитывает к концу 2026 года иметь 10–15 агентов, созданных и поддерживаемых экспертами предметных областей.