EVOTS：用于时间序列预测的进化变压器搜索

arXiv:2607.00154v1 公告类型：新 摘要：用于多元时间序列预测的进化神经架构设计仍未得到充分探索，尽管任务和预测设置之间存在很大差异，但大多数方法都依赖于固定的 Transformer 架构。本文介绍了一种进化神经架构搜索框架，用于发现用于时间序列预测（EVOTS）的任务自适应 Transformer 模型。架构使用模块化基因组表示进行编码，可以灵活组合注意力、前馈和投影组件，而修复机制则在整个进化过程中强制执行结构有效性。这种公式可以有效地探索多样化的架构空间，而无需依赖手工设计规则。所提出的方法在 ETT 系列的四个基准数据集（ETTh1、ETTh2、ETTm1 和 ETTm2）上在多种预测设置下进行评估，包括单变量到单变量、多变量到单变量和多变量到多变量预测，范围为 96、192、336 和 720。在多变量到多变量设置中，演进的架构实现了相对于基于 Transformer 的强大基线，具有竞争力，并且在某些情况下改善了均方误差。其他分析检查预测设置之间的性能差异，并报告挂钟训练时间，以提供计算成本的粗略指示。总体而言，结果表明，进化搜索可以有效地发现灵活且高性能的类似 Transformer 的架构，用于在实际运行时约束下进行多元时间序列预测。