面向未知任务关系场景的自适应多任务学习算法设计与应用

来源 :上海交通大学 | 被引量 : 0次 | 上传用户:helloMrFat
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
在当前数据时代,机器学习算法成为了联结数据和决策的桥梁。实际应用中,不同的机器学习任务都有较为稳定的算法进行求解。但传统的机器学习只使用单任务的方式进行各自的训练和预测,忽视了其他相似任务可能带来的共享收益。多任务学习的提出就是为了高效的挖掘多任务之间的共享信息,以提升多任务学习系统的整体预测性能。通过为每一个单独的机器学习任务提供额外的有效训练信息,最终提高单机器学习任务的实际预测表现。论文主要研究面向未知任务关系先验场景下的自适应多任务学习,以及该算法在多工况铣削加工刀具剩余寿命预测场景中的应用。目前已有的多任务学习算法可以分为以下几类:基于特征转换和特征选择的多任务学习方法、基于低秩分解的多任务学习方法、基于任务聚类和任务关系学习的多任务学习方法和基于共享网络结构的多任务深度学习方法。相较于单任务学习的方法,上述多任务学习算法的性能已经在多个现实场景中获得了验证。但上述方法也存在着一些不足,当面对大规模未知任务间关系的少样本回归多任务场景时,很难提前获取任务之间共享关系、有效特征等先验知识。同时对于不同簇的任务,包含主要信息的特征类型很有可能也不相同,故基于任务聚类的多任务学习方法也不够准确。而基于深度模型的方法需要大规模、高质量的数据集,面对少样本弱先验的回归预测场景时,网络参数的欠拟合会使得模型预测性能较弱。由此可见,现有的多任务学习算法很难在大规模未知任务关系的场景中发挥很好的预测效果。本论文首先引入鲁棒估计器的概念,并且针对鲁棒估计器难以优化的问题,提出鲁棒正则化项与异常过程的转换方法,利用连续优化不断调整异常过程中的惩罚函数以达到原始鲁棒估计器的近似凸逼近。接下来总结了多任务学习算法的研究现状,并对其适用场景进行了详细的分析。为解决在大规模未知先验的多任务学习场景中难以衡量任务关系、不相似任务之间互相影响等问题,提出了一个全新的基于鲁棒估计器的自适应多任务学习算法。该方法可以使任务在拟合自身数据的同时,自适应的选择与自己相似的任务协同学习。针对包含有鲁棒估计器的目标函数非凸非光滑的情况,将其转换为异常过程的形式,并利用连续交替最小二乘法进行高效优化。本文提出的算法在多组领域标准数据集上均实现了最佳回归预测性能。为解决铣削刀具状态监控预测场景中多种复杂工况、新刀具预测难等问题,本论文将多任务学习引入了刀具剩余寿命预测场景。对于数控机床铣刀加工过程来说,不同工况会导致剩余寿命预测函数的不一致性较为明显。如果只是将工况信息作为特征后进行单任务学习,工况信息在参数优化过程中只起到了样本空间分割或函数参数累加的作用,没有将工况中包含的有用信息进行深度融合。基于鲁棒估计器的自适应多任务学习可以使得相似工况下预测函数的参数收敛更加快速和精准,不相似工况之间的参数在收敛过程中互相不影响,进而整体上提高了刀具剩余寿命预测任务的回归精度。本研究采用多组刀具的全生命周期数据,并进行了数据降噪、特征提取和工况识别等处理,搭建了一个完整的刀具剩余寿命预测系统。通过多组对照试验结果证明,相较于单任务模型,在保证了整体计算的时间复杂度远低于其他学习模型的基础上,基于鲁棒估计器的自适应多任务学习算法能够根据刀具的实时工况和状态监控数据提供更为精准的剩余寿命预测。在新刀具冷启动预测的场景中,多任务学习系统可以挖掘到相似工况之间的有用信息,一定程度上解决了新刀具无标签、无历史数据导致的预测模型欠拟合等问题。
其他文献
随着多智能体编队在救灾、军事、工业领域应用需求的快速增加,多智能体系统面临在各种不确定的复杂环境下实现编队控制的问题。目前针对障碍环境下多智能体编队控制问题已经有较多的研究工作和成果,但是主要针对较为简单的障碍环境。实际编队中地形复杂、局部环境未知等问题导致了多智能体协同编队控制中避障约束、编队约束的动态变化,如何在协同机制下建立具有动态预报和自适应能力的编队控制策略是亟待解决的关键问题。本文将在
创新科技与技术的蓬勃发展推动了第三次工业革命,其中信息通信技术的进步与发展表现突出。无线通信技术的不断提升以及无线设备的不断完善使得在工业自动化生产和管理现场中,使用无线设备和无线通信技术的范围越来越广。由此产生了由现代工业控制网络和无线通信网络构成的工业网络系统。尽管无线通信技术和设备可以部署到有线网络难以进入的区域,实现了无盲区覆盖以及低成本的无间断监控等有利于生产或管理现场的功能,但是与有线
叶片作为旋转机械最重要的部件,其振动状态的实时监测对旋转机械的安全运行非常重要。叶尖定时方法(blade tip timing,BTT)作为一种非接触式测量方法在旋转机械叶片振动监测中有着良好而广泛的应用,但由于其存在非均匀采样、欠采样等问题,对信号的重构造成了一定的困难。本文利用BTT信号频域上的稀疏性,提出了一种基于压缩感知的信号辨识方法,具体内容如下:1)基于旋转机械叶片振动理论和叶尖计时系
随着我国城市建设规模的不断扩大以及城市人口的快速增长,城市轨道交通的地位也变得愈发重要。在城市轨道交通客流运输过程中,存在许多不可测的外部因素。这些因素轻则导致列车延误,严重情况下甚至会产生连带反应从而使得整条线路的列车运行网瘫痪,给城市轨道交通的正常运转带来很大的阻碍。因此对延误列车进行运行调整具有相当重要的意义。城轨列车运行调整是一个复杂的组合优化问题,目前对于城轨列车运行调整的研究主要集中在
故障诊断系统是提高工业过程安全性、稳定性,减少因故障停机带来经济损失的一类重要技术。本文研究了基于有效特征表示与迁移学习的工业故障识别,采用不同的特征提取算法与故障识别算法相结合,利用目标任务与源任务的相似性,不同程度的优化了目标故障识别任务的准确率。本文主要的研究内容包括:基于深度自动编码器的特征提取与故障识别。该方法将深度自动编码器与多层网络分类器相结合,自动编码器能够有效地提取出非线性复杂工
随着工业机器人技术的发展,机器人已被广泛的应用于工业生产制造环节中,对于需要灵活部署、机器人操作不方便的生产场景,人机协作的生产模式是一种有效的提高生产效率的方式。因此,研究机器人在保障操作人员安全的前提下,如何在复杂多变的协作环境中进行避障规划,完成规定的生产任务具有重要意义。本文针对人机协作装配应用场景,围绕空间动态障碍物检测和机器人主动避障规划方法展开研究,具体研究内容包括以下四个方面:(1
鉴于建筑内消防设备需处于待工作状态,能实时了解动力情况的要求,论文实现了一种基于物联网的建筑消防动力设备监控系统。论文首先针对动力设备电源状态的在线测量要求,对供电状态测量方法进行分析研究,对交流信号有效值算法进行对比分析,提出一个多周期等间隔算法来实现设计中的电量交流有效值的采样测量,设计了相应的软件算法,并在计算机中进行了仿真验证。其次,为了实现对电量状态的实时监测,设计了一款以ARM微处理器
在强化学习的背景下,训练效率随状态空间的大小呈指数级衰减,尤其是在具有连续动作空间的机器人控制领域中,高维连续的状态空间和动作空间使得在真实环境下应用强化学习算法训练机器人学习实时控制策略变得困难。为了解决在高维连续搜索空间中数据利用率极低的问题,研究人员们尝试了很多方法,例如通过生成更多的好数据指导智能体学习等。但是如何设计易于优化、能够有效表达领域知识的状态空间表示一直是一个开放性的问题。得益
高光机是数控机床专用领域的分支,用于高精密、高光泽度要求的零部件加工,并以此得名。智能手机及手持终端的爆发式增长中,高光机是必须的生产设备,并由此得到快速、规模化的发展。目前高光机的国产化程度很高。然而在要求较高的细节加工上,仍存在着刀纹不均、表面质量不高的问题,这种问题在生产节奏提升时会放大,限制了生产效率。数控机床的加工过程是机械、电气控制相结合的复杂机电系统控制过程,涉及到材料学、力学、机械
无线传感器网络(Wireless Sensor Networks,WSNs)由于其低能耗,低成本和无线传输而被广泛用于环境监测,智能家居,医疗保健,智能工厂等领域。但由于信号衰减,多径效应和同频干扰等原因,无线信号容易受损,导致丢包。现有研究中,(部分)重传技术需要消耗额外的能量,而前向纠错技术(Forward Error Correction,FEC)在数据包中添加了冗余字节,从而牺牲了网络吞吐