基于Transformer的轻量级轴承故障诊断方法研究

来源 :西安电子科技大学 | 被引量 : 0次 | 上传用户:hufeng274240003
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
工业互联网作为国家十四五规划中现代化基础设施体系的重要新型设施,是工业领域和信息技术结合的新型应用模式。轴承是工业互联网中现代机械设备系统的重要组成部分,为了提高系统可靠性,需要部署于边缘设备的故障诊断模型实时检测轴承信号状态。使用轴承振动信号进行故障诊断面临噪声干扰、诊断数据短缺以及诊断计算开销大的挑战,亟需提出故障诊断的方法以实现轻量化精确诊断工业设备数据。现有以循环神经网络为代表的轴承故障诊断方法,通过其循环结构在处理时间序列数据的优势,使其使用充足、高质量训练样本得到不错的准确率。然而,由于真实样本存在多种噪声干扰,且真实故障样本的数量稀少,循环神经网络无法提取数据的空间特征,难以保证故障诊断方法的准确度;深度学习网络存在过度参数化、诊断时计算开销大的问题,无法满足部署于计算资源匮乏的边缘设备的要求。针对噪音干扰和诊断样本有限导致轴承故障诊断方法准确率低的问题,提出了基于Transformer和卷积神经网络联合学习方法。首先,将带有噪音原始振动信号通过基于软阈值和瓶颈变换的残差构建单元后得到降噪振动信号。其次,通过维度转化将一维降噪振动信号转换为二维灰度图像,将二维灰度图像输入卷积神经网络后,利用卷积神经网络具有的归纳偏置能力提取出振动信号的局部特征。同时,通过卷积操作将一维降噪振动信号分割后加入特征向量得到一维嵌入序列。将一维嵌入序列输入Transformer编码器后,利用多头自注意力机制提取出振动信号的全局特征。最后,将全局特征和局部特征向量进行融合,分类计算后得到最终结果。使用凯斯西储大学数据集进行故障诊断实验,实验表明,在噪音干扰和有限故障样本条件下,与其他方法相比,本方法的准确率高达99.50%。针对深而复杂的轴承故障诊断深度学习模型无法部署于边缘设备的问题,提出了一种轻量级轴承故障诊断的方法。首先,将基于Transformer和卷积神经网络联合学习方法作为知识蒸馏技术中教师模型。同时,将原始振动信号使用数据变换得到扩充振动信号。其次,对教师模型的训练分为两个阶段。第一阶段将原始振动信号输入教师模型,对教师模型中主干和分类模块进行训练,从分类模块得到原始振动信号的特征和软标签;第二阶段将扩充振动信号输入教师模型,只更新自监督模块,由自监督模块的对比预测得到扩充振动信号的特征。最后,将原始振动信号和扩充振动信号同时输入教师模型和学生模型进行知识蒸馏。在知识蒸馏过程中,蒸馏损失函数是教师模型的知识平滑地转移到学生模型的关键,蒸馏损失函数由自监督模块的损失函数以及关系型蒸馏损失函数构成。使用帕德博恩大学轴承数据集进行模型开销以及故障诊断实验,实验表明,本方法与其他方法相比不仅大幅压缩了模型,模型计算开销降低,而且获得了最高99.89%的分类准确率。本文所提出的基于Transformer的轻量级轴承故障诊断方法,能够在边缘设备进行部署,实现了轻量级,有效解决噪音干扰、诊断数据短缺的问题,实现了高性能的故障诊断。
其他文献
数据库是国家重点的“卡脖子“难题之一,也是最为复杂的软件系统之一,其核心技术长期被国外企业和机构垄断,比如Oracle、IBM DB2等。随着云计算的发展和普及,分布式数据库为我国的数据库发展带来了换道超车的机会。在分布式数据库中,时钟机制被用来确定分布式提交事务的时序,是最重要功能模块之一,可避免潜在的事务冲突。自混合逻辑时钟(HLC:Hybrid Logical Clock)机制广泛应用于国内
学位
互联网的快速发展让用户可以在网络平台上快速获取到海量信息,面对如此庞杂的数据量,互联网用户难以从中筛选出感兴趣的信息,使信息利用率大幅下降。推荐算法的出现可以帮助用户实现信息过滤,越来越多的平台将推荐算法应用于系统为用户提供推荐服务,包括网络购物、视频音频以及社交媒体等。新闻是用户获取信息的重要方式,在线新闻平台需要更优的推荐算法提升推荐结果,这样才能增加用户流量,因此新闻推荐也成为研究的热点。新
学位
当前,我国半导体产业由于西方国家的封锁和限制,正面临着严峻考验,尤其在芯片制造领域,高端半导体设备缺乏的问题严重。分子束外延设备是制备高质量半导体材料的关键设备,在量子阱激光器、红外探测器等领域发挥着重要作用。因此,开展高性能分子束外延设备的自主研发具有重要的战略和现实意义。束源炉是分子束外延设备的关键组成部分之一,而坩埚和加热线圈是束源炉的核心。因此,本论文围绕分子束外延设备中束源炉结构设计与成
学位
作为图像处理领域中的一个重要分支,遥感图像目标检测技术广泛应用于数字城市建设、灾害检测以及军事侦察等领域,受到了学者们的关注。由于独特的成像机制,遥感成像技术在对地面目标进行成像的过程中具有多维度、多视角、信息丰富等优势。但遥感平台位于目标上方高空作业,对地成像的结果存在背景复杂、目标信息可变性强等特点。故本文针对传统目标检测方法难以在不同复杂场景下对多类别多尺度目标进行精准检测的问题,根据遥感图
学位
高分辨率图像可以提供丰富的图像细节信息和良好的视觉效果,然而受成像设备及成像环境等因素的制约,存在设备获取图像分辨率低的问题。为解决该问题,学者们提出了多种方法将低分辨率图像重建为高分辨率图像,将其称为图像超分辨率重建技术。图像超分辨率重建算法通过软件方法将低分辨率图像重建成对应高分辨图像,从而满足用户需求。随着深度学习的发展,基于深度学习的图像超分辨率重建算法成为研究热点。本文分别针对基于反馈网
学位
太阳能光伏发电因其清洁、无污染、可再生等优点,在社会上受到了越来越广泛的应用。为了满足使用需求,光伏系统往往由许多光伏组件串、并联而成。由于安装问题、复杂的环境因素以及非均匀光的分布,经常造成串联光伏组件之间受到的光照强度不均匀,从而使光伏(PV)模块出现失配的情况。失配现象不仅会导致光伏组件自身输出功率下降,还会拉低其它串联光伏组件的电流,从而使得整个串联光伏系统输出功率大大降低,严重情况下甚至
学位
附子为回阳救逆的第一要药,是临床常用的有毒中药。2015年版《中华人民共和国药典》附子项下收载了黑顺片、白附片、淡附片、炮附片4种附子饮片规格,其中,以黑顺片、白附片应用最多,其质量优劣直接影响到临床用药的安全与有效。目前中药标准物质主要包括中药化学对照品、对照药材与对照提取物,其在中药饮片的质量控制中发挥了良好的作用。然而,饮片来源于药材而异于药材,经炮制后其外观性状和内在质量均发生一定改变,从
学位
传统的图像传感器以固定帧率输出图像的绝对光强信息,分辨率高、填充率高,具备可以重构图像的细节纹理信息,但数据量大、功耗大,在极端的光照条件下不能获取足够的图像信息。动态视觉传感器(Dynamic Vision Sensor,DVS)模拟生物视网膜处理信息的机制,在外部光照条件发生变化时,像素电路异步地产生脉冲事件。当光强信息不变化时,DVS没有输出,所以DVS具有数据量小、低功耗、快速响应的特点。
学位
常言道,一图胜千言,很多时候一张图片带来的信息胜过千言万语。随着互联网的迅速发展,人们越来越热衷于分享图片来替代文字表达自己的情感。心理学家研究发现,人类会对所看到的图像产生不同的情感响应,因此可以借助图像情感分析对社交网络上获取的数据进行研究,提升互联网数据分析的准确性,该方向有着广泛的应用前景,如态度挖掘,政选预测,抑郁检测等。图像情感分类任务旨在利用机器学习算法对图像中的情感信息进行挖掘,并
学位
Petri网是离散事件系统建模和分析的重要工具。它能够方便地描述系统中部件的顺序、并发、冲突以及同步等关系。由于其良好的属性,Petri网已广泛应用于柔性制造系统建模和控制。对于柔性制造系统中的事件冲突和特定控制需求,优先约束有重要的意义。为了解决柔性制造系统中的这些问题并高效利用系统资源,本文研究了有界Petri网中优先约束的最大许可监督控制并取得以下成果。1.提出了优先约束的数学描述以及优先约
学位