基于深度神经网络的无监督特征学习

来源 :中国科学院大学 | 被引量 : 0次 | 上传用户:bueryuyu33
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着移动互联网的发展,从移动设备涌入大量多样化的数据,这些数据的处理和分析给我们带来了机遇和挑战。而深度学习研究也在计算能力的提升以及大数据等因素的推动下,突破了计算能力不足、易过拟合等困难,开始发挥其高度抽象的层级式表达能力,成为处理复杂互联网数据的强有力工具。然而大量无标注数据的增长,带来了数据的标注难题,也带来了对无监督特征学习的巨大需求。  本文的工作以深度神经网络为工具,主要针对大量无标注数据的特征学习问题,研究内容如下:  1.提出一种面向聚类分析应用的深度嵌入网络,该模型通过保持数据原始空间中的局部结构并增加对数据的表达的组稀疏约束,从而使深度神经网络学习一种适于聚类的表达。克服了传统的聚类方法没有充分挖掘和利用数据中深层特征的缺点。该模型在人脸及物体图像数据集上的实验效果优于传统的聚类方法。  2.提出一种基于深度广义自编码机的降维方法,该方法通过迭代地探索数据点之间的关系以及数据点的表达,学习到数据内在的低维流形空间中的数据特征。克服了传统降维和子空间学习方法过于简单以及自编码机没有充分利用数据点之间关系的缺点。在流形学习、人脸识别等任务中,深度广义自编码机都要优于传统的降维方法。  以上两个基于深度神经网络的工作,都在无监督特征学习中充分利用了数据之间的关系。这些关系初步揭示了数据的内部结构,而这种结构正是无监督特征学习的关键所在。
其他文献
随着因特网的迅猛发展,用户需要的信息资源可能分布在不同的信息源上,如何使得这些分布的、异构的信息源协同工作从而为用户提供完整的信息访问和服务成为一个很重要的研究领域
论文首先分析了黑客入侵和网络安全模型;在此基础上给出了入侵检测的定义,入侵检测系统的结构组成和入侵检测系统的分类,详细阐明了基于误用的入侵检测系统和基于异常的入侵
随着Internet以及相关技术的发展与成熟,人们已经进入信息量极其丰富的时代。由于网络技术的迅速发展,因特网上的信息量迅猛增加,人们面对的问题不再是缺乏有用信息,而是如何更快
上世纪80年代初,软件产业逐步进入过程化生产的时代,人们开始意识到技术的改进必须与过程的改进同时并举,才能真正达到保证产品质量的目的。一系列重要的国际标准和模型纷纷被提
激光惯性约束核聚变因能量高、无污染且可提供经济、安全的能源,已成为解决未来能源危机的有效途径之一,目标靶精密定位是实现惯性约束核聚变的技术难题。当立体视觉引导下的目
随着计算机网络的普及,以及网络带宽的不断提高,越来越多的实时通信在网络上得以实现。传统的电话网络由于其昂贵的通信费用和单一的点对点通信很难满足企业、公司电话会议且
随着Web2.0和社会媒体的发展,各种社交应用和平台极大地便利了人们之间的信息交流,用户可以随时随地上传图像并与他人分享。丰富多彩的互联网资源吸引了大量用户,但与此同时,互联
无线局域网的方便、快捷等诸多特性,使其应用日益广泛,成为IT产业的亮点之一。然而,其安全问题令人担忧,并因此限制了其在武器系统间和武器系统内部通信的应用,因此国内外安全研究
最新视频编码标准H.264/AVC与以往的标准如MPEG-1/2/4及H.261/H.263相比,其编码效率有了显著的提高,具有更高的压缩比、低码流、高质量、容错能力强及更好的网络适应能力等特点
本文针对中国地质大学研究生院信息网络化管理的需要,构建了一个“基于NET平台的研究生管理信息系统”。该系统运用完善的校园网络,建立一个集B/S结构和先进的ASENET技术为一体