基于注意力机制的Transformer模型有着优于卷积神经网络(convolutional neural network，CNN)的特征提取能力且在自然语言处理及计算机视觉领域都得到成功的应用。 《一种机械设备故障诊断的FD－Transformer方法》提出一种用于机械设备故障诊断的Transformer方法(fault diagnosis－Transformer，FD－Transformer)： 1、对原始振动信号利用Dropout技术进行数据增强，提高模型的泛化能力; 2、利用多通道一维卷积进行数据处理并得到矩阵形式; 3、利用Dense连接的Encoder 结构进行机械设备的故障特征提取; ？4、利用分类模块得到故障诊断结果。
