【IEEETNNLS】基于轻量级组Transformer的边缘智能时间序列约简网络及其在工业RUL预测中的应用
最近,基于深度学习的模型,如transformer,由于其强大的表示能力,在工业剩余使用寿命(RUL)预测方面取得了显著的性能。在许多工业实践中,RUL预测算法被部署在边缘设备上进行实时响应。然而,深度学习模型的高计算成本使其难以满足边缘智能的要求。本文提出了一种具有多层次时间序列缩减的轻量级组Transformer(GTMRNet)来缓解这个问题。与计算所有时间序列的大多数现有RUL方法不同,GT MRNet可以自适应地选择必要的时间步长来计算RUL。首先,构建了一个轻量级的组Transformer,通过使用具有显著小波参数的组线性变换来提取特征。然后,提出了一种时间序列缩减策略,以自适应地过滤掉每一层不重要的时间步长。最后,开发了一种多层次学习机制,以进一步稳定时间序列缩减的性能。在真实世界条件数据集上的广泛实验结果表明,所提出的方法可以在不牺牲精度的情况下显著减少高达74.7%的参数和91.8%的计算成本