时间序列预测在气象、金融、医疗等领域具有重大应用价值，然而在有限数据和噪声环境下，准确预测高维系统中所有变量的动态仍具有挑战性。传统方法难以有效处理变量间的非线性交互和复杂动力学特性。
为破解这一难题，近日国科大杭州高等研究院生命与健康科学学院陈洛南/陶鹏团队在Advanced Science发表了题为“Delayformer: Spatiotemporal Transformation for Predicting High-Dimensional Dynamics”的研究论文。该研究提出了Delayformer框架，通过开发新型多元时空信息（mvSTI）变换方法，实现了对所有变量动态的同步精准预测。
研究团队基于延迟嵌入理论，创新性地将每个观测变量转换为延迟嵌入状态，并利用Transformer的强大表示能力进行跨变量学习。Delayformer首次设计了mvSTI方程，将已知的时间序列信息转换为所有变量的未来空间信息，从动态系统视角预测系统状态而非单个变量，从而在理论和计算上克服了非线性和交叉交互问题（图1）。该方法将延迟嵌入的Hankel矩阵视为二维图像，采用共享Vision Transformer（ViT）编码器提取所有变量的共同动态表示，再通过独立的线性解码器并行预测所有原始变量。这一设计充分结合了Transformer和STI方法的优势，在保持理论严谨性的同时提升了计算效率。
图1 Delayformer框架图
Delayformer在真实世界的气象数据集（风速、太阳辐照度、地面臭氧水平）上展现出卓越的预测能力。该研究的另一重要贡献是揭示了Delayformer作为时间序列基础模型的潜力。通过跨领域预测任务验证，Delayformer在零样本和少样本学习场景下均表现出优秀的泛化能力，仅需5%的训练数据即可显著提升预测精度。
杭高院为该工作的第一完成单位。杭高院生命学院2021级直博生王梓鉴和陶鹏助理研究员为论文的第一作者，陈洛南研究员为论文的通讯作者。该工作得到了国家自然科学基金、浙江省科技厅和杭高院的大力支持。
原文链接：https://advanced.onlinelibrary.wiley.com/doi/10.1002/advs.202514671
