StatPrompt-LLM：基础型时间序列预测的轻量级统计细化

arXiv:2611.12974v1 公告类型：新 摘要：随着基础型模型的引入，时间序列预测最近发生了范式转变，这些模型使大型预训练语言架构适应序列数据。然而，有效地将基本时间结构（例如趋势、规模和时间依赖性）暴露给这些模型仍然是一个开放的挑战，特别是当可用的观察有限时。在本文中，我们对不同代的预测架构进行了探索性实证研究，并提出了 StatPrompt-LLM，一种 Time-LLM 的轻量级统计细化。 StatPrompt-LLM 通过数据集级统计信息增强了现有的 Time-LLM 提示机制，并引入了零初始化自回归旁路作为补充线性预测路径。我们在全前缀和缩减前缀配置下评估我们的电力和气象时间序列基准框架，包括 ETTh1、ETTh2 和天气。在减少 10% 的前缀配置下，StatPrompt-LLM 实现了比 Time-LLM 更低的样本内预测误差，跨数据集的未加权平均相对减少量在 MSE 中为 40.2%，在 MAE 中为 21.4%。完整前缀结果更依赖于数据集。当选定的附加统计描述符组被隐藏在组合架构中时，消融分析揭示了相对适度且依赖于数据集的变化。计算分析表明相对于 Time-LLM 存在额外的模型参数和运行时开销。