Google представила TimesFM-3 для multivariate zero-shot прогнозирования

От одного ряда — к системе взаимосвязанных сигналов

Google Research представила TimesFM-3 — новую foundation model для временных рядов, изначально предобученную на multivariate forecasting. В отличие от TimesFM-2.5 и более ранних версий, она может учитывать не только историю одной целевой переменной, но и совместную динамику нескольких рядов и внешних признаков.

Модель содержит 330 млн параметров, а её обучающий корпус объединяет реальные и синтетические временные ряды суммарно более чем с 1 трлн временных точек. Google позиционирует TimesFM-3 как zero-shot модель: для применения к новой задаче ей не требуется отдельный task-specific fine-tuning.

Практическая цель такого перехода — приблизить универсальный forecasting к реальным процессам. Продажи, загрузка инфраструктуры или производственные показатели редко зависят только от собственной прошлой траектории: на них одновременно влияют связанные ряды, уже наблюдавшиеся факторы и события, известные на будущем горизонте.

Какие multivariate сценарии поддерживает модель

TimesFM-3 умеет одновременно прогнозировать несколько связанных targets и выдаёт для каждого как point forecast, так и quantile forecasts. Это позволяет одной моделью оценивать, например, будущие продажи нескольких товарных категорий, а не запускать независимый прогноз для каждого ряда.

Вторая группа входов — past covariates: признаки, известные только для исторического участка, например фактический поток посетителей. Третья — past-future, или dynamic covariates: сигналы, значения которых уже известны на будущем горизонте, включая расписание промоакций, праздники или прогноз погоды.

В демонстрационном примере Google модель связывает продажи мороженого с календарём промоакций. Univariate прогноз продолжает недельный рисунок, тогда как multivariate режим использует будущий promotion schedule и отражает ожидаемый рост продаж примерно на 20% в дни акции.

Двумерное внимание по времени и переменным

В основе TimesFM-3 остаётся decoder-only transformer. Непрерывные значения группируются в patches по 32 временных шага, а каждый ряд нормализуется отдельно, чтобы совместная обработка сигналов с разными масштабами не искажала обучение.

Основной transformer stack рассматривает tokens как двумерную сетку. Causal temporal attention движется по времени внутри одного ряда и видит только прошлое, чтобы не допустить утечки будущих значений; full variate attention на том же временном шаге связывает разные ряды и учит их взаимные зависимости.

Для past-future covariates применяется lookahead-конструкция: token объединяет текущий patch с будущими patches заранее известного сигнала. Поэтому календарь акции или погодный прогноз доступен модели именно там, где он нужен, но неизвестные будущие значения targets и исторических covariates остаются закрыты.

Весь горизонт — за один forward pass

Предыдущие версии TimesFM генерировали прогноз последовательно, patch за patch. Это увеличивало latency, вычислительную стоимость и риск накопления ошибки по мере продвижения к дальнему краю горизонта.

TimesFM-3 вместо этого использует Contiguous Patch Masking. К наблюдаемому контексту добавляются masked placeholders для всего будущего горизонта: у targets и past covariates они скрыты, а known-future признаки остаются видимыми. Transformer заполняет все будущие patches одновременно, без autoregressive цикла.

Для каждого target и шага модель предсказывает девять quantiles — от 10-го до 90-го percentile. Результат поэтому содержит не только центральную оценку, но и распределённое по уровням представление неопределённости прогноза.

Результаты benchmarks и границы заявления

Google оценила TimesFM-3 на публичных наборах Gift-Eval, FEV-Bench и Time. По опубликованному сравнению модель заняла первое место по среднему рангу среди проверенных pretrained foundation models как для point accuracy, так и для probabilistic forecasting; multivariate режим дополнительно улучшил результат относительно её собственного univariate режима.

Это сравнение не означает гарантированного превосходства на любом корпоративном датасете. Итог зависит от качества рядов, доступности информативных covariates, горизонта и соответствия конкретной задачи benchmark-сценариям; собственную backtesting-проверку оно не заменяет.

TimesFM-3 уже доступна через GitHub и Hugging Face. Интеграцию с BigQuery Google обещает добавить в ближайшие недели, а пока для знакомства с командой AI.FORECAST предлагает использовать TimesFM-2.5 в univariate задачах.