Прогнозирование временных рядов — принципиально другая задача, чем классический ML. Суть не в том, что данных мало, а в их природе. Временной ряд — это одна зависимая траектория от порождающего процесса, а не мешок независимых точек из одного распределения. Отсюда три главные проблемы.
Во-первых, низкое отношение сигнал/шум. В отличие от LLM, где контекст и следующий токен несут много взаимной информации, в числах её практически нет. Во-вторых, «нехватка данных»: высокая автокорреляция резко уменьшает эффективный размер выборки. В ряде из T точек реально независимой информации гораздо меньше — важно количество циклов, а не временных меток. Это видно по бенчмарку: m4_hourly (тысячи коротких рядов с полным дневным циклом) выигрывают у остальных, а длинный курс обмена даёт лишь горстку примеров для обучения. В-третьих, сдвиг распределения здесь гарантирован, потому что прогноз — это экстраполяция в будущее, а не интерполяция.
Набор моделей (от Naive и Seasonal-Naive до DLinear, PatchTST, LightGBM и zero-shot фундаментальных моделей вроде Chronos, TimesFM, TTM) показал: для рядов с сильной сезонностью простые статистические модели и foundation models выигрывают с большим отрывом. Но на событиях вроде курса биткоина или обмена все сложные модели не лучше Naive — их предсказания уходят не в ту сторону.
Процесс можно учить, если он стационарен (свойства не зависят от времени) и эргодичен (среднее по времени совпадает со средним по ансамблю). Но даже это не гарантирует прогнозируемости — белый шум стационарен и эргодичен, но непредсказуем. Реальная польза — от автокорреляции. Разные модели (от ARIMA до трансформеров) просто по-разному читают её паттерны.
Главный вывод: для реальных задач с низкой прогнозируемостью (курсы, крипта) бесполезно накидывать сложные нейросети, инженерию признаков или пулить данные через foundation models. Единственный рабочий путь — искать внешние (экзогенные) факторы из реального мира, которые порождают события и шоки.