TimeMixer：基于MLP架构的创新时序预测模型，实现多尺度分解混合的高效预测

TimeMixer基于MLP架构的创新时序预测模型实现多尺度分解混合的高效预测【免费下载链接】TimeMixer[ICLR 2024] Official implementation of TimeMixer: Decomposable Multiscale Mixing for Time Series Forecasting项目地址: https://gitcode.com/gh_mirrors/ti/TimeMixer在当今数据驱动的世界中时间序列预测已成为金融、能源、交通、气象等多个关键领域的核心技术。然而传统时序预测方法面临着多尺度信息融合、计算效率与预测精度平衡等挑战。TimeMixer作为ICLR 2024提出的创新解决方案采用全MLP架构通过可分解多尺度混合技术在时序预测领域实现了突破性进展。该模型不仅在长期和短期预测任务中均达到最先进的性能水平同时在计算效率和内存使用方面也表现出色。 时序预测的现实挑战与TimeMixer的创新突破时间序列数据通常包含复杂的季节性模式和趋势变化这些模式在不同时间尺度上呈现出显著差异。传统方法往往难以同时捕捉细粒度的季节波动和宏观的趋势走向导致预测精度受限。TimeMixer通过创新的多尺度分析框架解决了这一核心难题。TimeMixer的核心洞察在于时间序列的季节性和趋势成分在不同尺度上具有不同的重要性。细粒度尺度更适合捕捉季节性模式而粗粒度尺度则更擅长识别宏观趋势。基于这一观察TimeMixer设计了两大核心组件历史可分解混合Past-Decomposable-Mixing, PDM在不同尺度上分别混合分解的季节性和趋势成分未来多预测器混合Future-Multipredictor-Mixing, FMM集成多个基于不同尺度历史信息的预测器多尺度分析显示季节性和趋势成分在不同尺度上的混合权重差异⚡ 创新架构解析全MLP设计实现高效预测TimeMixer采用全MLP架构避免了传统Transformer模型的计算复杂性同时保持了强大的建模能力。模型的核心架构可以分为三个主要阶段多尺度时间序列处理TimeMixer首先通过下采样操作生成不同尺度的时间序列表示为后续的分解混合提供基础。这一步骤使得模型能够同时处理不同时间分辨率的信息从微观的季节性波动到宏观的趋势变化。历史信息的可分解混合在历史信息提取阶段TimeMixer将每个尺度的序列分解为季节性和趋势两个成分。关键创新在于季节成分采用自底向上的混合策略而趋势成分则采用自顶向下的混合策略季节性混合Bottom-up从细粒度到粗粒度逐步聚合详细的季节性信息趋势混合Top-down利用来自更粗尺度的先验知识深入挖掘宏观趋势信息TimeMixer的历史可分解混合机制展示季节性和趋势成分的分离处理未来预测的多预测器集成未来预测阶段TimeMixer采用多个预测器的集成架构。每个预测器基于不同尺度的历史信息生成预测结果最终通过加权求和的方式整合所有尺度的预测细粒度预测器专注于短期波动粗粒度预测器关注长期趋势多尺度预测结果融合提供全面的未来展望未来多预测器混合机制展示多尺度预测结果的集成过程 性能优势全面领先的预测精度TimeMixer在18个真实世界基准数据集和15个基线模型上进行了广泛实验涵盖了不同频率、变量数量和实际场景的时间序列数据。长期预测性能卓越在长期预测任务中TimeMixer在所有基准测试中都实现了最先进的一致性能。无论是电力负荷预测、交通流量分析还是气象数据预测TimeMixer都展现出显著的优势。TimeMixer在多个长期预测任务中的性能对比展示全面的领先优势短期预测同样出色对于短期预测任务TimeMixer同样表现优异。在M4数据集涵盖小时到年的时间尺度上TimeMixer在年、季度、月度数据上均取得最优结果年数据SMAPE13.206优于第二名13.387季度数据SMAPE9.996优于第二名10.100月度数据SMAPE12.605优于第二名12.670TimeMixer在M4多频率数据集上的短期预测性能时空数据预测能力强在PEMS交通数据集上TimeMixer展示了强大的时空相关性建模能力。在PEMS03、PEMS04、PEMS07、PEMS08四个子数据集上TimeMixer在所有指标MAE、MAPE、RMSE上都取得了最优结果。TimeMixer在PEMS交通数据集上的时空预测性能⚙️ 高效计算接近全线性模型的运行效率作为深度模型TimeMixer在计算效率方面表现出色。与最新的最先进模型相比TimeMixer在各种序列长度从192到3072下在GPU内存占用和运行时间方面都展现出良好的效率。TimeMixer在GPU内存和运行时间方面的效率优势实验结果显示GPU内存在所有序列长度下显著低于PatchTST、TimesNet等模型运行时间远低于其他模型尤其在长序列如3072时优势明显内存效率解决了传统模型在长序列中易出现的内存爆炸问题这种高效性使得TimeMixer在需要实时预测或资源受限的场景中具有广阔的应用前景。 技术验证全面的消融实验为了验证TimeMixer每个组件的有效性研究团队进行了详细的消融实验。实验结果表明分解、过去混合季节性和趋势和未来混合都是提升模型性能的关键组件。TimeMixer各组件消融实验验证各模块的必要性关键发现包括分解操作对捕捉季节性和趋势模式至关重要过去混合中的季节性和趋势分离处理显著提升性能未来多预测器混合提供了互补的预测能力完整架构在M4、PEMS和ETTm1数据集上都取得了最佳结果 快速部署指南TimeMixer提供了完整的代码实现和预训练脚本开发者可以轻松集成到现有系统中。环境配置首先安装必要的依赖pip install -r requirements.txt核心模型结构TimeMixer的核心实现位于 models/TimeMixer.py包含了多尺度分解混合的所有关键组件。模型的主要模块包括DFT_series_decomp基于离散傅里叶变换的序列分解模块MultiScaleSeasonMixing多尺度季节性混合层MultiScaleTrendMixing多尺度趋势混合层MultiScaleMixing多尺度混合集成模块训练与预测TimeMixer支持多种时间序列任务包括长期预测、短期预测、异常检测和分类。训练脚本位于 scripts/long_term_forecast/ 目录下。以ETTm1数据集为例运行以下命令开始训练bash ./scripts/long_term_forecast/ETT_script/TimeMixer_ETTm1_unify.sh数据预处理数据预处理模块位于 data_provider/ 目录支持多种时间序列格式和标准化方法。TimeMixer提供了灵活的数据加载和预处理管道可以轻松适配不同的数据源。 实际应用场景解析TimeMixer的高精度和高效性使其适用于多种实际应用场景1. 电力负荷预测电力系统需要精确的负荷预测来优化发电计划和电网调度。TimeMixer的多尺度分析能力可以同时捕捉日周期、周周期和季节性变化提供更准确的负荷预测。2. 金融时间序列分析股票价格、汇率等金融时间序列具有复杂的多尺度特征。TimeMixer能够同时分析短期波动和长期趋势为投资决策提供更全面的参考。3. 交通流量管理交通流量数据具有明显的时空相关性。TimeMixer在PEMS数据集上的优异表现证明了其在交通预测领域的适用性可用于智能交通系统的流量预测和路线优化。4. 气象与环境监测气象数据包含多个时间尺度的周期性变化。TimeMixer的多尺度分解能力使其特别适合气象预测、空气质量监测等应用。5. 工业生产优化工业生产过程中的时间序列数据往往包含设备状态、产品质量等多维度信息。TimeMixer可以用于预测设备故障、优化生产参数等。 未来展望与总结TimeMixer代表了时间序列预测领域的一个重要进展。通过创新的多尺度分解混合架构它成功解决了传统方法在多尺度信息融合方面的挑战同时保持了计算效率。项目特点总结 高性能预测在广泛的基准测试中均取得最佳表现⚡ 效率优先在GPU内存占用和运行时间方面表现出色 解耦混合适应性能够适应不同特性的时序数据 代码可复用性结构清晰易于理解和修改技术优势全MLP架构避免了Transformer的计算复杂性多尺度分解同时捕捉不同时间尺度的模式可解释性强季节性和趋势成分分离处理扩展性好支持多种时间序列分析任务TimeMixer的开源实现为研究者和开发者提供了一个强大的工具可以用于各种时间序列分析任务。随着时间序列数据在各个领域的应用越来越广泛TimeMixer这样的高效预测模型将发挥越来越重要的作用。项目的持续发展计划包括支持更多类型的时间序列分析任务以及探索极端长期时间序列预测的可能性。通过不断优化和创新TimeMixer有望在时间序列分析领域开辟新的研究方向和应用前景。TimeMixer整体架构图展示多尺度时间序列处理、历史可分解混合和未来多预测器混合的完整流程对于想要深入探索时间序列预测的研究人员和开发者TimeMixer不仅提供了一个高性能的预测工具更重要的是提供了一种新的思路通过多尺度分解和混合来更好地理解和预测复杂的时间序列模式。这种思路有望启发更多创新性的时间序列分析方法推动整个领域的发展。【免费下载链接】TimeMixer[ICLR 2024] Official implementation of TimeMixer: Decomposable Multiscale Mixing for Time Series Forecasting项目地址: https://gitcode.com/gh_mirrors/ti/TimeMixer创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考