论文部分内容阅读
随着信息科技与传感技术的发展,制造业朝着制造无人化、制造智能化方向快速发展。在制造业设备的生产与运行环境中,掌握设备运行状况是非常重要的。当前,制造业设备的运行状况被样式丰富的传感器从多方面进行实时监控,这些传感设备每天都会产生海量的数据信息,研究人员可以通过数据分析等方式对设备的状态进行评估,实现设备的信息化管控。制造业不仅需要对设备出现的异常运行状况进行准确的检测,还需要对设备未来可能发生的异常状况进行提前预警。特别地,如果能够根据当前设备的运行数据推测出设备未来的运行状态,相关人员便可以对设备未来可能出现的异常情况提前做好相应的准备,避免重大经济损失和人身安全事故。因此,对于制造业而言,根据设备的历史运行状况推测未来该设备是否会发生异常至关重要。当前,在根据历史数据推测未来是否发生异常的时间序列异常预测的研究中,这些方法主要通过循环神经网络及其变体对时间序列数据进行预测,然后根据预测值与实际观测值之间的偏差或者预测值是否超出正常值范围来推断未来是否会发生异常。而少数方法则是对预测值进行重建表示,然后根据重建误差推断未来是否发生异常。这些方法基本是仅依赖于数据信息的深度学习方法,通过海量的数据与重复训练来获得良好的预测效果。然而,面对具有丰富领域知识,且时间层面的变化规律非常复杂的多元时间序列数据,以往的异常预测方法很难取得良好的效果。本文以制造业移动设备为背景,专门针对具有丰富领域知识的多元时间序列异常预测问题展开研究,利用领域知识来提高深度学习模型对多元时间序列数据特征间关系的表示能力,该研究面临以下挑战:一是领域知识往往是理论模型,且与设备的实际状态存在差异,如何获取更加符合实际情况的领域知识?二是领域知识其形式通常是复杂多样的,如何有效地将领域知识与深度学习模型有效并深入地结合?三是在实际应用环境中经常会出现正常数据与异常数据均稀缺的情况,这导致难以直接有效地训练深度学习模型,如何在数据稀缺条件下对具有丰富领域知识与复杂时变特性的时间序列数据进行有效地异常预测?为了解决上述挑战,本文进行了以下两方面工作。其一,本文提出了一种领域知识嵌入的多元时间序列异常预测模型(Multivariate Time Series Anomaly Prediction based on Domain Knowledge,MTAP-DK),预测时间序列数据在未来一段时间内是否出现异常。该模型首先通过历史时序数据对领域知识进行提取与修正,以获取更加符合实际情况的领域公式。然后,将获取的领域公式与深度学习方法相结合,增强模型对特征间复杂影响关系的表示,以提高预测效果。其二,本文提出了一种领域知识与迁移学习结合的异常预测模型(Transfer Learning for Multivariate Time Series Anomaly Prediction through Domain Knowledge,TransMTAP),在数据稀缺条件下预测未来一段时间内是否出现异常。该模型将领域知识与迁移学习相结合,提高模型对具有丰富领域知识与复杂时变特性的多元时间序列数据的迁移能力,并据此解决数据稀缺带来的问题。本文的主要工作及贡献概括为以下三点:1.针对于数据充足条件下的异常预测任务,本文提出了 MTAP-DK模型,解决了具有丰富领域知识与复杂时变特性的多元时间序列数据,在未来一段时间是否出现异常的预测问题。MTAP-DK模型首先基于设备的历史运行数据对领域知识进行优化与修正,以提取出更加符合实际情况的领域公式。然后,将提取出的领域公式与深度学习模型有效地结合,对深度学习模型在知识层面进行指导与约束,增强模型对具有丰富领域知识的多元时间序列特征间关系的表示,并据此实现有效的异常预测。2.针对于数据稀缺条件下的异常预测任务,本文提出了 TransMTAP模型,解决了在数据不足条件下,具有复杂特性的多元时间序列数据是否在未来一段时间出现异常的预测问题。TransMTAP模型首先集成多种相似计算方法来筛选源域数据,并将领域知识作为目标域与源域之间数据迁移的桥梁,有效地将源域数据迁移至目标域,以解决数据稀少带来的深度学习模型难以训练与优化的问题。然后,使用特征预测器来预测未来的数据模式,使用特征领域判别器来判别数据的所属域。最后,通过迁移模块与判别器、判别器与预测器之间的对抗来优化模型,以达到良好的异常预测效果。3.本文在两个真实数据集上进行了大量实验,验证了 MTAP-DK模型和TransMTAP模型的有效性。实验结果显示MTAP-DK和TransMTAP模型能够分别在数据充足与数据稀缺条件下实现有效地异常预测,并与现有基线方法进行效果对比,本文提出的模型在多个评价指标上均有提升。同时,为了验证模型中各模块的有效性,本文进行了充足的消融实验,经对实验结果的对比和分析,这两个模型中的各模块都能够对模型的效果有较好的提升。