时间序列数据的胶囊式LSTM特征提取算法研究

来源 :华中师范大学 | 被引量 : 0次 | 上传用户:qingjietianjiao
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
在这个世界上,每时每刻都有无数的事件被人类观测并记录着。时间序列数据作为一种按照观测时间顺序排列的观测值集合,广泛的存在于现实生活的各行各业。时间序列数据分析与研究不仅仅存在于气象学、生命科学、经济学以及农学等诸多主流学科中,自然语言处理、交通管理大数据、人体姿态检测与识别等新兴领域也依靠对时间序列数据的研究,对时间序列数据的特征值分析与提取已经成为了研究的热点与难点问题之一。因此,研究如何在尽可能少丢失信息的前提下,从具有时间相关性强、数据量大、数据维度高等特点的时间序列数据中提取有效的特征,从而获取蕴含在数据中的知识与信息具有十分重要的意义。近年来,深度学习技术在实际应用中表现优异,其中关于特征提取算法的研究取得明显进展。长短时记忆网络(Long Short Term Memory,LSTM)作为深度学习中循环神经网络的一种变体,对时间序列具有长时间的记忆能力。然而,传统的LSTM网络结构中提取的特征是以标量的形式在各个时刻中传递,在提取特征的过程中会一定程度的丢失特征之间的语义与时序关系。针对这一问题,本文将胶囊网络与LSTM网络相结合,提出了一种胶囊式LSTM网络结构提取特征,网络以矢量的形式传递特征信息,从而保留了特征之间的语义与时序关系,并将其应用在人体姿态检测系统中,提升了人体姿态检测任务的正确率。本文的主要工作与成果如下:(1)结合胶囊网络与LSTM网络,提出了一种胶囊式LSTM网络模型结构用于时间序列数据的特征提取。通过构建多个LSTM块获得多个标量特征,使用特征路由的方式将标量特征转换为矢量特征,在使用传统的时间反向传播算法训练的同时,加入动态路由的方法更新提取的特征,从而使模型从输入时间序列数据中提取到更为本质的特征信息。同时论文基于从数据中提取到的特征应该能还原数据本身的思想,本文在胶囊式LSTM网络模型中加入了重构网络,通过降低重构网络依据特征重构的数据与输入数据之间误差进一步提高胶囊式LSTM网络模型的特征提取能力。(2)通过PTB公开数据集的语言建模实验,验证了胶囊式LSTM网络模型的性能。通过对文本序列进行预测的性能来衡量胶囊式LSTM网络模型的特征提取能力,并通过与经典的深度学习算法对照,体现了胶囊式LSTM网络模型在时间序列数据预测问题上所具有的优势。(3)通过人体姿态检测验证实验,验证了基于胶囊式LSTM的特征提取算法在多变量时间序列数据中的性能。通过自建人体姿态数据集,探究胶囊式LSTM网络模型的特征提取能力,并通过对比目前主流的机器学习算法,验证胶囊式LSTM在时间序列的分类问题上所具有的优势。
其他文献
"得失"观向来是《道德经》哲学思想的重要命题之一。得与失两个范畴具有对立统一的性质,即具有相互依存、相互平衡的辩证关系。在调节为人处世心态方面,老子运用"知足"的方法
随着现代电力系统的迅速发展,我国各个地区电网建设也进入了新的阶段,"大运行"体系下,电网体系运行越来越成熟。在实际的电网工作中,依然存在着很多复杂的问题,尤其对大型的
应用岩溶地貌学、碳酸盐岩沉积岩石学、碳酸盐储层地质学、储层地球化学、层序地层学、测井地质学、石油地质学和油气地球化学等多学科的理论和技术方法,重点研究了鄂尔多斯
随着电力电子行业的飞速发展,模拟电路结构日渐复杂,规模也日益庞大,这对电力电子行业的可靠性与稳定性提出了新的要求,因此,对复杂结构的模拟电路进行准确的故障预测是当前
城市交往空间是为人们提供交流活动的场所,使用者是交往空间的核心,因此一切交往空间的运用都应给予人的需求而建立。我国随着时代的发展,城市的建设问题逐渐体现出来,如户外公共交往空间不足、建筑过多、交通拥挤等问题,导致城市人群交往空间缺失,交流沟通减少,社会冷漠等现象的增加。然而我们享受城市快速发展的同时,也能感受到当下户外活动空间得不到充分的利用,城市商业化、经济化的发展现状导致政府忽略户外交往空间的
小学美术素描教学具有十分重要的意义.但素描学习是一个比较枯燥的过程,部分学生可能因为单调、乏味的训练而磨灭学习热情,甚至最终丧失学习素描的兴趣.该文探讨如何以线条造
磷是湖泊藻类合成自身细胞的首控因子,沉积物磷则是湖泊水体富营养化的内源主控因素。太湖西岸宜兴市受其自身发展影响,城市水体污染严重,亦是太湖水质恶化的重要源头。研究
CD8+T细胞主要通过表面受体TCR特异性识别外来抗原或肿瘤新抗原pMHC-I并激活T细胞毒性和适应性免疫。T细胞表面辅受体CD8,能稳定TCR-pMHC-I相互作用,并进一步放大T细胞抗原识
研究目标:检验了产品内国际贸易分工模式下产业内相对工资差距对技术进步的影响效应。研究方法:基于2002~2013年中国21个工业行业的面板数据,对模型进行FGLS回归。研究发现:
本文提出一种具有双曲率的折叠芯材的设计方法,该方法使用一阶Miura衍生图案以及折叠构型各参数关系,在给定内外轮廓为旋转对称双曲率的曲面时,得到的一种能够完美贴合给定轮