时间序列预测在各种应用中都至关重要,例如金融领域中的市场趋势观察(Biswas等人,2018年)、气象学中的天气预测(Morid等人,2023年)、医疗保健中的健康状况跟踪(Morid等人,2023年)以及工业过程控制中的优化操作制定(Xie等人,2020年)。准确的未来值预测能够促进更好的决策、更有效的资源分配和明智的战略规划。主要方法包括自回归积分滑动平均(ARIMA)(Singh等人,2020年)、指数平滑和支持向量回归,这些方法利用统计和机器学习策略来预测未来值。尽管实验表明它们在平滑和预测周期时间序列方面有效,但输入-输出线性假设和短期模式挖掘限制了它们捕捉复杂现实世界应用中的非线性结构和长期依赖性的能力。
近年来,提出了时域深度学习方法,包括长短期记忆网络(LSTM)(Graves和Graves,2012年)、循环神经网络(RNN)(Connor等人,1994年)和时间卷积网络(TCN)(Lea等人,2017年),用于分析复杂时间序列。这些模型通过学习非线性关系和长期依赖性提高了预测精度。然而,它们仍然难以捕捉周期性和多尺度信息,限制了它们完全重构全局周期特征和准确反映局部变化的能力(Tong等人,2024年)。为了解决这些限制,采用了频域和多尺度分析来探索具有可变周期性和微妙残差的复杂时间序列。
频域分析将时间序列的视角从时域转换到频域,有助于识别和探索周期模式和振荡行为。傅里叶变换和小波变换被广泛用于检查时间序列的频率特性。早期的基于滤波的频域方法经常将高频成分视为噪声,并用低通滤波器抑制它们,这经常导致关键信息的丢失(Eldele等人,2024年;Piao等人,2024年)。然而,并非所有高频成分都可以被忽略为噪声;在金融分析和机械故障诊断等领域,高频波动包含了重要的短期动态或表明了突然的异常事件。频域分析的最新发展,包括小波变换和先进的时间-频率定位方法,旨在适应性地保留这些有信息的高频特征,而不是丢弃它们。我们的方法明确地重构了周期模式,同时保留了可能包含宝贵信息的高频信号。
频域分析往往关注全局特征而忽视局部变化,这使得复杂多尺度信息的表征变得复杂(Salles等人,2019年)。现有的多尺度分析方法(Liu等人,2021年;Zhang和Yan,2023年)未能充分捕捉和整合局部和全局特征。它们倾向于强调细粒度的局部细节或广泛的全局趋势,导致时间序列的信息表示不完整(Wang等人,2023年)。一种高性能的特征提取方法应该将局部细微差别与整体模式相结合,以提供时间序列动态的全面视图。
为了在有效捕捉动态全局周期模式和局部波动的同时减轻直接去除高频成分造成的信息损失,本研究提出了一种名为FreqMLNet的时间序列预测算法。FreqMLNet结合了频域重构模块和多尺度特征提取与融合模块。这种非变换器架构仅依赖于时域和频域中的卷积和线性操作来建模时间依赖性,避免了使用自注意力或位置编码。本研究的主要贡献可以总结如下。
- 频域重构模块: 该模块旨在通过频域重构从时间序列中提取周期模式。它首先使用一维卷积从时间序列中提取潜在特征,然后使用可微分的实数傅里叶变换将这些特征转换到频域,以获得频率、幅度、偏移和相位等关键信息。利用这些参数,该模块在频域中重构周期结构,并将它们映射回时域。通过利用频域重构,FreqMLNet算法有效地识别和利用时间序列中的固有周期性。
- 多尺度特征提取与融合模块: 该多尺度特征提取与融合模块使用最大池化和下采样操作在不同时间分辨率下捕捉不同的模式。随后,这些来自不同尺度的多视角特征通过新设计的全局-局部融合模块进行融合,从而增强对复杂时间序列模式的捕捉。该模块使FreqMLNet能够在保持对整体周期性的理解的同时,识别时间序列中的细微变化,从而实现对复杂时间序列模式的全面表示。