«Один индекс, две модели»: Cohere выпустила Embed 5 — эмбеддинги Pro и Fast для поиска по корпоративным документам

Что выпустила Cohere

Cohere объявила о выпуске Embed 5 — семейства моделей эмбеддингов, которое сама компания называет своим самым сильным решением для качественного корпоративного поиска. В семействе два тарифа: Embed 5 Pro оптимизирован для максимального качества на мультимодальных, многоязычных, финансовых и кодовых документах, а также на документах, полученных после парсинга, тогда как Embed 5 Fast рассчитан на нагрузки, где важнее задержка и стоимость. По замыслу Cohere, Embed 5 становится основой для поиска, RAG и агентных сценариев: модель отбирает релевантный контекст и отсекает шум до того, как он попадёт в дорогие генеративные модели.

Обе модели поддерживают окно контекста в 128 тысяч токенов, принимают текст, изображения и их комбинацию, обучены более чем на 100 языках и выдают эмбеддинги размерностью 2048, 1536, 1024, 768, 512 или 256 в форматах float, int8 и binary. Cohere отдельно отмечает, что обе модели можно размещать в собственном контуре, в том числе с помощью vLLM. В документации компании примеры построены на идентификаторе embed-v5.0-pro, а сам Embed 5 Pro описан как многоязычная модель с поддержкой более 100 языков, включая корейский, японский, арабский, китайский, испанский и французский.

Один индекс, две модели

Ключевое инженерное решение — общее пространство эмбеддингов: векторы, полученные от Pro и от Fast, можно сравнивать напрямую. Cohere проверила это на 40 наборах данных для разработки, охватывающих текстовый, графический, смешанный и документный поиск: при индексации одной моделью и запросах другой качество падало в среднем всего на 1,6% для запросов Fast и на 2,7% для запросов Pro, и ни один набор не показал крупного провала. В среднем по своей таблице компания приводит такие значения: индекс Fast и запрос Fast — 96,6; индекс Pro и запрос Fast — 98,4; индекс Fast и запрос Pro — 97,3; индекс Pro и запрос Pro — 100.

Отсюда рекомендуемый сценарий развёртывания: индексировать документы моделью Pro, а запросы выполнять моделью Fast — это сохраняет большую часть выигрыша по качеству и оставляет задержку и стоимость на уровне Fast. Ограничение одно: обе стороны должны использовать одну и ту же размерность вывода, причём совместимость сохраняется и при усечении Matryoshka, и при int8-квантизации.

Замеры: корпоративные документы и финансы

Главный публичный ориентир в публикации — ViDoRe V3, где документы специально отобраны из корпоративных доменов: финансовые отчёты, технические руководства, регуляторные материалы, государственные доклады, учебники и лекции. Embed 5 Pro набирает там в среднем 86,1 против 83,7 у Voyage 4 Large, 83,2 у Gemini Embedding 2 и 75,3 у OpenAI text-embedding-3-large, а Embed 5 Fast — 84,7. Pro лидирует в пяти из восьми доменов и делит с Voyage 4 Large первое место в энергетике, а наибольший прирост относительно Embed 4 показывает в HR (+11,4) и промышленности (+10,3).

Финансовые документы Cohere выделяет отдельно: Pro занимает первое место на трёх публичных финансовых бенчмарках, а Fast оказывается вторым на каждом из них, несмотря на заметно меньший размер. Речь о FinanceBench (80,1 у Pro и 80,0 у Fast), FinQA (90,0 и 88,8) и ViDoRe V3 Finance (85,0 и 83,9). В среднем по этим наборам Pro опережает ближайшего не-Cohere конкурента, Gemini Embedding 2, на 3,3 балла, а отрыв от OpenAI text-embedding-3-large на FinanceBench достигает 21,4 балла.

Отдельный сюжет — документы, которые до эмбеддинга проходят парсинг: таблицы теряют связи строк и столбцов, многоколоночная вёрстка путает порядок чтения, повторяющиеся колонтитулы добавляют шум, а графики часто исчезают вовсе. В наборе, собранном из сервисной документации, корпоративных отчётов, документов SEC, руководств к продуктам и политик приватности, Pro даёт в среднем 84,8 против 83,6 у Voyage 4 Large, 83,4 у Fast, 80,8 у Gemini Embedding 2 и 78,6 у Embed 4; сами документы при этом парсились моделью Gemini 1.5 Flash.

Для сканированных страниц, слайдов и схем Cohere предлагает два режима: эмбеддинг самой страницы-изображения и «слитый» (fused) эмбеддинг, который объединяет изображение с метаданными документа в один вектор. На смешанных наборах Pro даёт в среднем 82,3 по пяти наборам против 81,2 у Fast и 61,3 у Gemini Embedding 2, опережая последнюю на каждом наборе; на чисто страничных изображениях — 77,0 против 73,2 у Fast, 71,1 у Embed 4, 70,1 у Voyage Multimodal 3.5 и 56,7 у Gemini Embedding 2.

Языки и пропускная способность Fast

Cohere обучала Embed 5 более чем на 100 языках, отдельно выделяя языки основной клиентской базы. По немецкому, французскому, испанскому, итальянскому и русскому Pro даёт в среднем 77 против 76 у Voyage 4 Large и 73 у Gemini Embedding 2, улучшая Embed 4 примерно на 7 баллов — сильнее всего в русском (+9) и итальянском (+7). Ещё в десяти языках наибольший прирост относительно Embed 4 приходится на фарси (+12,8), телугу (+12,3) и хинди (+11,5).

Аргумент Embed 5 Fast — пропускная способность: по документам она в среднем в 2,4 раза выше, чем у Pro, при длине контекста около 200 и около 1000 токенов. При этом Fast обходит Voyage 4 Nano на ViDoRe V3 более чем на семь баллов, а Jina Embeddings v5 Text Small, Perplexity и Microsoft Harrier 0.6B — на десять и более баллов, и примерно на 20 баллов опережает Qwen3-VL-Embedding-2B, будучи примерно вдвое меньше него.

Хранение векторов: 819 ГБ против 3,2 ГБ

В Cohere подчёркивают, что на корпоративном масштабе индекс векторов может стоить дороже, чем модель, которая его создаёт. Механика экономии — обучение представлений Matryoshka и выводы пониженной точности: вектор размерности 2048 в формате float32 занимает 8 КБ, 1024-мерный int8 — 1 КБ, а 256-мерный binary — всего 32 байта, то есть в 256 раз меньше. На 100 миллионах фрагментов это сокращает сырое хранилище векторов примерно с 819 ГБ до 3,2 ГБ. Для большинства развёртываний Cohere рекомендует 1024-мерные векторы в int8, поскольку int8 сохраняет почти полное качество; binary даёт самый компактный вариант с некоторой потерей точности и лучше подходит для быстрого первого прохода перед повторным ранжированием.

Что сказано про границы замеров

Cohere честно фиксирует методологическую рамку: семейство стало первым, которое оценивали по методологии RCP-nDCG@10, где модели сравниваются на фиксированном наборе кандидатов, а их скоры используются для переупорядочивания внутри него. По собственному примечанию компании, такие оценки отражают качество повторного ранжирования, а не первого этапа поиска — первый этап они измеряли отдельно, по nDCG и Recall.

Цены, доступность и что дальше

Embed 5 уже общедоступна в Cohere API, Model Vault, Microsoft Foundry и Amazon SageMaker, а также внутри продукта North. Цена составляет 0,12 доллара за миллион токенов у Pro и 0,08 доллара у Fast. Для приватных развёртываний в собственном VPC или на собственных серверах обе модели обслуживаются через vLLM, а для массовой загрузки документов доступен batch-эмбеддинг.

Cohere заявляет интеграции с LangChain, Haystack, Weaviate, Qdrant, Pinecone, Elasticsearch, MongoDB, Redis, Milvus и OpenSearch. На 8 октября назначен вебинар с руководством направлений поиска и эмбеддингов — про Embed 5, про Parse 5 и про то, что готовится дальше; управляемая платформа поиска Compass Cloud тем временем находится в закрытой бете.