«10 минут аудио за 1,65 секунды на iPhone»: QVAC выпустила открытую TranscribePsy на 254 млн параметров

Что выпустила QVAC

14 октября 2026 года организация QVAC опубликовала на Hugging Face пост «QVAC TranscribePsy: State-of-the-Art On-Device Multilingual Speech Recognition» и вместе с ним открытые веса системы распознавания речи TranscribePsy. Пост подписан десятью авторами организации и помечен на Hugging Face как Community Article — это публикация самой команды, авторы которой работают в Tether AI Research.

Релиз — это не одна модель, а четыре сборки под разные площадки: TranscribePsy-250M-EU на 25 европейских языков и более узкая TranscribePsy-250M-EU-sub на 8 языков для ноутбуков, TranscribePsy-250M-EU-sub-gguf для телефонов через движок qvac-fabric-speech.cpp и TranscribePsy-250M-EU-sub-coreml, оптимизированная под Neural Engine в iPhone.

Веса открыты под Apache-2.0: карточка модели называет лицензиаром Tether Data, S.A. de C.V. и указывает ту же лицензию Apache 2.0, добавляя, что модель — версия parakeet-tdt-0.6b-v3 от NVIDIA, который распространяется под CC-BY-4.0. Вместе с моделями опубликованы конфигурации оценки, на которых получены все числа поста, а код и данные обучения в релиз не вошли.

Отдельно выложен движок: репозиторий tether-ai-research/qvac-transcribepsy содержит запуск GGUF-сборки на CPU и Core ML-сборки на Neural Engine.

Архитектура: дистилляция вместо масштаба

TranscribePsy — трансдьюсер FastConformer-TDT на 254,45 млн параметров: 253,95 млн в базовой модели плюс 0,50 млн адаптеров CAFE, при этом необязательный языковой шлюз на 0,50 млн в эту цифру не входит. Восьмиязычная версия EU-sub — 253,95 млн параметров, обе построены на энкодере FastConformer из 24 слоёв размерности 640.

Модель не обучали с нуля: она получена структурным прунингом 627-миллионного учителя Parakeet-TDT-0.6B-v3 и затем обучена дистилляцией с него, а не по одним транскриптам. По объяснению авторов, именно это и позволяет 254-миллионному энкодеру быть конкурентоспособным при их объёме данных: студент стартует внутри пространства представлений, которое учитель уже упорядочил.

Данные обучения — около 564 тыс. часов речи, то есть примерно 117 млн высказываний на 25 языках. Редакция отмечает эту деталь как главную: по словам авторов, разрыв с более крупными моделями закрывает аккуратная дистилляция от сильного учителя, а не масштаб.

Замеры: свой класс и модели втрое больше

Все числа получены одним и тем же пайплайном декодирования и одним и тем же официальным нормализатором текста из Open ASR Leaderboard, применённым и к гипотезам, и к эталонам, — поэтому авторы считают их напрямую сравнимыми. В классе от 242 до 370 млн параметров TranscribePsy выигрывает все три набора: у EU-sub — 7,50 % WER на Open ASR Leaderboard и 5,87 % на Multilingual LibriSpeech, у EU — 8,02 %, 6,58 % и 21,56 % соответственно.

Для сравнения: Whisper-small (242 млн) показывает 12,34 %, 11,51 % и 38,17 %, omniASR-CTC-300M-v2 (326 млн) — 15,31 %, 11,89 % и 32,23 %, OWSM v4 small (370 млн) — 9,72 %, 11,84 % и 37,74 %. На восьмиязычном Multilingual LibriSpeech отрыв самый большой: 6,58 % против 11,51 % у Whisper-small, то есть примерно вдвое меньше ошибок.

Против моделей в три-четыре раза крупнее TranscribePsy-250M-EU лидирует на Multilingual LibriSpeech: 6,58 % против 12,60 % у Qwen3-ASR-0.6B (782 млн), 7,71 % у omniASR-CTC-1B-v2 (976 млн), 10,65 % у OWSM-CTC-v4 (1,01 млрд) и 7,76 % у Whisper-Medium (764 млн).

Проигрыши в посте названы прямо: на Common Voice EU уступает omniASR-CTC-1B-v2 (21,56 % против 20,07 %), хотя опережает Whisper-Medium (26,94 %) и OWSM-CTC-v4 (32,87 %), а на Open ASR Leaderboard из четырёх крупных моделей впереди оказывается Qwen3-ASR-0.6B. Qwen3-ASR-0.6B не покрывает все языки Common Voice и на этом наборе не оценивался. Все замеры сделаны самой командой QVAC, независимой перепроверки в посте нет.

На телефоне: 1,65 секунды на десять минут

Свою Core ML-сборку авторы сравнили с desert-ant-labs/voz — тоже сборкой для Neural Engine — на одном и том же 10-минутном файле: TranscribePsy расшифровывает его за 1,65 секунды, то есть 363× реального времени, против 2,34 секунды у конкурента. Занимает она 212,4 МБ против 488,8 МБ, пиковая память — 333,4 МиБ против 570 МиБ, холодный старт — 12,7 секунды против 18,4.

Короткие фразы, из которых состоит обычный голосовой ввод, для Neural Engine сложнее: каждая добивается до полного окна. На 160 высказываниях из Multilingual LibriSpeech, по 20 на каждый из восьми языков, то есть 40 минутах аудио, TranscribePsy проходит набор за 32,8 секунды (73× реального времени) против 39,9 у voz, отвечает в среднем за 207,3 мс против 253,4 мс и стартует примерно в 1,5 раза быстрее.

Замеры ускорения сделаны на шести реальных устройствах: Samsung Galaxy S26 Ultra и S25 Ultra, Google Pixel 10 и Pixel 9, iPhone 17 Pro Max и iPhone 15. На всех шести устройствах TranscribePsy оказалась самой быстрой моделью — без исключений и ничьих: на Neural Engine ей нужно 32,8 секунды на iPhone 17 Pro Max и 42,2 секунды на iPhone 15, на Android-процессорах — 62 секунды на Galaxy S26 Ultra и не более 180 секунд даже на Pixel 9.

Отрыв от ближайшего конкурента в своём классе, omniASR-CTC-300M-v2, — 2,5× на Galaxy S26 Ultra, от Whisper-small — 5,7×, от крупных моделей — от 7,5 до 15×. Пиковая память GGUF-сборки на всех шести телефонах почти не меняется: от 530 до 542 МиБ, средний холодный старт — 252 мс. Каждое число — среднее из трёх лучших прогонов из пяти повторов, чтобы тепловое замедление не попадало в результат.

Как запустить и чего модель не делает

PyTorch-чекпойнты загружаются через NeMo (nemo_toolkit[asr]), звук должен быть моно на 16 кГц, а восьмиязычная EU-sub работает одним набором весов без настройки: модель поднимается через ASRModel.from_pretrained("qvac/TranscribePsy-250M-EU-sub"). Двадцать пять языков версии EU устроены иначе — английский распознаётся тем же чекпойнтом, а для остальных 24 языков используются небольшие языковые адаптеры; когда язык неизвестен, решение об utterance принимает встроенный языковой шлюз, и стоит это около 0,1 % WER на английском.

Ограничения авторы перечисляют сами: это пакетная расшифровка готовых высказываний, а не потоковая; поддерживаются только языки из списка, и за его пределами модель не деградирует плавно, а не работает; для специальной лексики рекомендуется дообучение на своих данных. Отдельно оговорено, что расшифровки нельзя использовать как единственный вход для высокорисковых автоматических решений.

Дальше команда обещает полный технический отчёт с результатами по языкам, отдельную работу про дизайн CAFE, лежащий в основе EU-версии, а также потоковую расшифровку, меньшие и более быстрые модели и новые языки.