Liquid AI выпустила открытые decision-модели d1-3B и d1-omni-600M: ответ за один проход и 16 мс на Jetson AGX Thor

Две decision-модели на разных бэкбонах

Обе модели построены на Liquid Foundation Models (LFM), но обучены от двух разных бэкбонов. d1-3B выросла из LFM2.5-VL-3B — последней vision-language модели компании, decoder-only, принимающей текст и изображения. d1-omni-600M обучена от LFM2.5-Encoder-350M, двунаправленного энкодера, к которому добавили визуальный и аудиокодировщик, чтобы работать с тремя модальностями: она принимает либо текст с изображением, либо текст с аудио. d1-omni-600M находится в раннем исследовательском релизе и продолжает дорабатываться.

Ключевое отличие decision-моделей от генеративных: они не порождают токены, а отвечают за один прямой проход, что и даёт скорость и малый размер. Обе модели выложены с открытыми весами на Hugging Face сегодня же.

Бенчмарки: лучший результат для моделей до 10B

На Decision Index 0.2.1 лучший результат среди моделей до 10B — у d1-3B: 48,57 балла, впереди всех моделей на 4B и 9B и впереди Decider 35B-A3B с 47,11.

На семи публичных датасетах — чтение с пониманием, детекция токсичности, классификация намерений, медицинский вопрос-ответ и кросс-языковое понимание — d1-3B показала средний балл 82,9, лучший в таблице и выше Decider 4B с 81,1. d1-omni-600M набрала 78,4, обойдя Decider 2B с 77,1 при вчетверо меньшем числе параметров. По отдельным наборам результаты такие: SQuAD 2.0 — 83,3 у d1-3B и 74,0 у d1-omni-600M; Civil Comments — 93,3 и 95,8; MASSIVE intent — 86,9 и 86,1; PubMedQA — 68,3 и 61,3; BoolQ — 86,3 и 77,7; XNLI — 85,6 и 74,7; PAWS-X — 76,4 и 79,5.

Компания отмечает, что проверяла сохранение зрительных способностей бэкбона LFM2.5-VL-3B у d1-3B и работу всех трёх модальностей у d1-omni-600M, но отдельные бенчмарки по зрению и аудио не публикует: в Decision Index v0.3 есть только закрытый vision-сплит, а аудио-бенчмарки decision-моделей пока остаются открытой задачей.

Скорость: Jetson, RTX 4090 и MI325X

Вместе с NVIDIA Liquid AI измерила d1-3B на NVIDIA GeForce RTX 4090, Jetson AGX Thor, Jetson AGX Orin 64 ГБ и Jetson Orin Nano; для d1-omni-600M как раннего релиза цифр скорости нет. На периферии модель отвечает на один вопрос быстрее 50 мс на каждом измеренном устройстве: 16 мс на Jetson AGX Thor, 26 мс на Jetson AGX Orin 64 ГБ, 50 мс на Jetson Orin Nano и 30 мс на Apple M5 Pro. Три вопроса занимают лишь в 1,3 раза больше времени, чем один — у AGX Thor время растёт с 16 до 20 мс.

На GPU ответ на вопрос укладывается менее чем в 10 мс, а обработка изображения 384px — менее чем в 18 мс на обеих платформах: 8 и 17 мс на RTX 4090, 9 и 18 мс на AMD MI325X. На упакованных состояниях (64 states, packed) пропускная способность достигает 475 состояний в секунду на RTX 4090 и 1106 — на MI325X.

Как запустить

Модели требуют transformers версии 5.14 и старше; зависимости ставятся командой pip install "transformers>=5.14" torch torchvision pillow. Поскольку модели поставляются со своим кодом, загружать их нужно с trust_remote_code=True, например через AutoModel.from_pretrained("LiquidAI/d1-3B", trust_remote_code=True).

В примере Liquid AI модель отвечает сразу на несколько именованных вопросов по одному текстовому состоянию — просит ли клиент возврат, какой команде передать обращение и насколько оно срочно; тот же интерфейс принимает изображение как всё состояние и умеет пакетную обработку запросов без паддинга. Обе модели открыты и доступны на Hugging Face, а демо собраны в Hugging Face Space System One Arcade.