«Модель должна думать на языке вопроса, а не переводить ответ»: Cohere Labs выпустила Tiny Aya L2-Thinker для рассуждений на 60 языках

Проблема: ответ на языке пользователя — но мысли по-английски

Рассуждающие языковые модели дали большой прирост на математике, коде и других сложных задачах, но их способности остаются почти полностью англоцентричными: модель рассуждает по-английски независимо от того, на каком языке задан вопрос. Итоговый ответ может прийти на языке пользователя, однако ход мыслей — цепочка рассуждений — остаётся недоступным тому, кто английского не знает.

Это не только вопрос удобства. При внутреннем переводе теряются нюансы исходного запроса, а знания, которые естественнее выражаются на языке пользователя — культурный контекст и языковые тонкости, — остаются неиспользованными. Cohere Labs формулирует цель как L2-рассуждение: модель должна не переводить ответ на язык вопроса, а именно думать на нём, строя «внутриязыковой мост» между запросом и ответом.

Три опоры смеси данных

Ответ авторы ищут в данных, а не в архитектуре. Первый столп — английские рассуждения (ER): около 1,7 миллиона примеров пошаговых решений, сгенерированных более крупной моделью gpt-oss-120b. Это то, где модель учится решать задачи, и это критично прежде всего для математики; но сама по себе такая смесь даёт модель, которая почти всегда думает по-английски — доля рассуждений на языке пользователя составляет всего 12,8% даже при прямом указании рассуждать на нём.

Второй столп — мультиязычные рассуждения (MR): английские примеры автоматически переведены на 44 языка в областях математики, науки и общих тем. Перевод длинных цепочек рассуждений дорог, поэтому данных немного — около 5000 примеров на язык, — но и этого достаточно: доля L2-рассуждений поднимается с 12,8% до 86,1%, а точность при этом растёт.

Третий и ключевой столп — мультиязычные данные без рассуждений (NR): пары «вопрос — ответ» на целевом языке, без цепочек рассуждений. Такой ресурс исторически гораздо доступнее, поскольку использовался в прежних мультиязычных инструкционных моделях; он переносит умение рассуждать на языке пользователя на новые языки, включая те, где примеров рассуждений модель не видела вовсе.

Главный вывод авторов — способность решать задачи и язык, на котором модель думает, связаны не жёстко, поэтому L2-рассуждение не нужно строить язык за языком. Это делает его достижимым даже там, где мультиязычных данных о рассуждениях мало.

Что замерили: качество, слабые языки и сами цепочки

Итоговая модель — Tiny Aya L2-Thinker на 3,35 миллиарда параметров, построенная на базе Tiny Aya с контекстом 32K. Она рассуждает на языке вопроса более чем в 93% случаев, и это проверено на 60 языках и шести бенчмарках, охватывающих математику, здравый смысл, следование инструкциям, открытую генерацию и культурные рассуждения. В обучении поддерживается 45 языков, но способность, по наблюдениям авторов, переносится и на языки, для которых примеров рассуждений не показывали.

Качество почти не страдает: на пяти из шести бенчмарков падение не превышает двух-трёх пунктов, а на MIST-OEG — бенчмарке открытой генерации — точность даже немного растёт. Английские результаты тоже держатся: на английских запросах модель по-прежнему рассуждает по-английски и не уступает своему «близнецу» — Tiny Aya En-Thinker, обученному на той же базе и похожих данных, но думающему только по-английски.

Исключение — PolyMath, соревновательная математика уровня заметно выше школьной: там точность падает ощутимее. Авторы объясняют это тем, что модель не проходила этап обучения с подкреплением, который сильнее всего помогает именно сложной математике и сглаживает артефакты перевода обучающих цепочек; это они называют направлением будущей работы.

Отдельно проверяется поведение на языках с малым ресурсом. Tiny Aya L2-Thinker держит долю L2-рассуждений около потолка — 99% на двух верхних уровнях обеспеченности данными и 94,3% и 94,5% на двух нижних. Для сравнения: Magistral-Small-24B обваливается с 72% до 5% на низкоресурсных языках, а M-Thinker-7B деградирует по всем осям и почти удваивает длину своих цепочек.

Экономичность и «зацикливание»

Модель также экономична: в среднем она держится ниже 5000 «мыслящих» токенов, чему помогает токенизатор, оптимизированный под мультиязычность. Это важно на фоне типичного сбоя рассуждающих моделей — «зацикливания» (doomlooping), когда цепочка растёт не из-за исследования альтернатив, а из-за повторов одних и тех же шагов, пока модель не израсходует бюджет и не остановится, так и не дав ответа.

Авторы измеряют это оценкой повторов и сравнивают её с длиной цепочки: у протестированных моделей обе величины растут вместе. Яркий пример — Qwen3.5-4B: он регулярно тратит от 10 до 25 тысяч токенов на рассуждение, которое не обязательно даёт прирост, а попытка навязать язык через префилл не спасает — модель остаётся в углу высокой длины и высокой повторяемости и заметно теряет эффективность на низкоресурсных языках. Tiny Aya L2-Thinker, напротив, на большинстве бенчмарков рассуждает за несколько сотен или тысяч токенов и почти не повторяется.

Что открыто и в чём практический смысл

Cohere Labs не только описывает метод, но и выкладывает результаты: веса Tiny Aya L2-Thinker, её английского «близнеца» Tiny Aya En-Thinker и базовой Tiny Aya Base 32K, а также мультиязычный набор данных о рассуждениях — всё опубликовано на Hugging Face под именем CohereLabs. Демонстрационная площадка L2-Thinker там же доступна для запуска.

Практический смысл — доступность. Если модель думает на языке пользователя, цепочку рассуждений можно прочитать, проверить каждый шаг и найти место ошибки, а не принимать ответ на веру; знания, которые лучше выражены на исходном языке, тоже оказываются задействованы. Впрочем, авторы честно очерчивают границу: понятная цепочка ещё не значит правильную — она может зацикливаться, уходить в сторону или вовсе не влиять на решение, и работу над осмысленностью, эффективностью и интерпретируемостью цепочек они оставляют следующему шагу.