TimesFM (Time Series Foundation Model) je open-source model pro předpověď časových řad, který vyvíjí Google Research. Za projektem stojí tým z Google Research a Google Cloud — mezi klíčová jména patří Rajat Sen a Yichen Zhou. Práce byla přijata na konferenci ICML 2024. Model je dostupný na GitHubu a HuggingFace, a od verze 1.0 je integrovaný i jako oficiální produkt přímo v Google BigQuery.

TimesFM řeší jeden z klasických problémů prediktivní analytiky: tradiční modely pro předpověď časových řad vyžadují dlouhé tréninkové cykly na konkrétních datech, než je lze nasadit. TimesFM funguje jako foundation model — podobně jako LLM, který zvládne nový úkol bez fine-tuningu. Stačí mu dodat historická data a rovnou vrátí předpověď. To se hodí všude tam, kde se pracuje s daty v čase: predikce poptávky v retailu, finanční forecasting, sledování provozu, výroba nebo healthcare. Nejnovější verze 2.5 navíc podporuje kontext až 16 000 časových kroků a přidává volitelnou kvantilovou hlavu pro intervalové předpovědi.

Z čísel: TimesFM 2.5 má 200M parametrů, což je pokles z 500M v předchozí verzi 2.0. Přes tuto velikost překonává v zero-shot režimu statistické metody jako ARIMA a ETS, a na benchmarku Monash Forecasting Archive se vyrovná supervizovaným DL modelům jako DeepAR nebo PatchTST — přestože ty byly na daných datech přímo trénované. Na ETT benchmarku TimesFM překonává i GPT-3.5 použitý pro forecasting přes prompting (llmtime), a to při výrazně menší velikosti modelu. Celý model byl předtrénován na 100 miliardách reálných časových bodů, z nichž velkou část tvoří data z Google Trends a Wikipedia Pageviews.

Zdroje:

• https://github.com/google-research/timesfm
• https://research.google/blog/a-decoder-only-foundation-model-for-time-series-forecasting/
• https://arxiv.org/abs/2310.10688
• https://huggingface.co/collections/google/timesfm-release-66e4be5fdb56e960c1e482a6
• https://cloud.google.com/bigquery/docs/timesfm-model

The post AI Bits – TimesFM first appeared on Hard Wired.