【IEEETIM】用于工业过程时间预测建模的双交叉注意Transformer网络
工业预测建模在过程控制和优化中发挥着重要作用。实际应用中出现的工业过程数据往往涉及非线性和时间特征,这是准确工业预测建模的两个主要挑战。虽然以前基于Transformer的工业预测模型只考虑了工业时间序列数据的时间信息,但通常忽略了过程变量的不同重要性。在本文中,我们提出了一种新的基于双重交叉注意力的Transformer网络(DCAFormer),以并行捕获跨时间依赖关系和跨变量依赖关系,从而获得更好的可预测性。具体而言,所提出的DCAFormer由跨时间自注意层和跨变量自注意层组成。跨变量自注意是通过将输入时间序列反转为变量标记来捕捉多变量相关性的。采用去定态跨时间自注意从时间序列数据中提取出内在的非平稳信息作为时间依赖关系。在真实的铝电解过程中进行了对比实验和烧蚀实验。实验结果表明,DCAFormer比其他Transformer模型具有更好的预测性能。