多层卷积神经网络深度学习算法的应用研究

来源 :西安电子科技大学 | 被引量 : 0次 | 上传用户:duoduo5211314
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
深度学习(Deep Learning,DL)是人工智能领域的研究热点,它通过多隐层非线性单元学习海量数据的本质特征,实现高阶抽象函数的逼近,提升分类或预测的准确性。与浅度学习相比,深度学习的结构更类似于大脑皮层,数据从输入层输入,经由每个隐层分层处理,其计算能力和表达复杂函数的能力比较强。而卷积神经网络则是深度学习中最基础且有效的算法,其局部感受野、权值共享和下采样结构大大降低了网络模型的复杂度,减少了可训练权值的数量。在图像识别领域,卷积神经网络独特的拓补结构对平移、比例缩放或其它形变具有高度不变性。因此,把深度学习技术应用到图像识别领域具有重要的研究意义。本论文在国内外研究的基础上,对多层前馈网络和卷积网络的基本结构和算法进行了总结和介绍,深入研究了卷积神经网络的参数设计和随机梯度下降学习算法的优化问题。文章在Theano开发平台上利用Python语言实现多层卷积神经网络的模型设计,并将改进的随机梯度学习算法应用到手写数字识别和人脸识别问题中。文章首先设计了卷积神经网络和多层前馈网络两种模型结构,分析了不同隐层的误差灵敏度和学习速率的变化情况,研究了不同学习率对卷积神经网络收敛速度的影响情况,并与其它算法在MNIST数据集上的识别性能进行对比分析。接着,文章重点研究了随机梯度下降算法(Stochastic Gradient Descent,SGD)的改进问题,通过对网络的学习率参数进行优化,并在ORL数据集上进行测试,验证该算法在人脸识别问题上的可行性。最后,通过分析三组不同数配置的网络模型在人脸识别测试集上的实验效果,研究了卷积核参数对卷积神经网络的识别率和训练速率的影响。本论文在不同数据库上对网络结构和参数优化进行研究,分析总结了深度学习在图像识别分类应用上的一些实践性规律,证明了卷积神经网络能够处理复杂的图像分类问题。文章采用改进学习率算法的网络模型在MNIST数据集中的识别误差率(0.84%)比多层前馈网络(2.52%)要低,比文献中模型(6.25%)的性能要好。同时,在ORL数据库中,采用改进算法的网络在识别率和训练速度方面上明显优于传统网络和文献中的网络。实验表明,该算法具有较好的实践性能,对于解决实际的工程问题具有较好的指导作用。
其他文献
近年来,随着颍上县城市建设、交通路网、工业化步伐加快,大雾天气逐渐增多,对颍上县生态环境、交通安全等方面带来了较为严重的影响.分析颍上县大雾的形成原因对研究改善这种
南沙中学创办于1970年。校园绿树成荫,环境优美,文化氛围浓郁。2006年该校被评为广东省一级学校,是南沙区唯一一所省一级中学。政府先后投入了550多万元建设了校园网和网络监控
农业供给侧结构性改革是现阶段我国破解农业发展难题、转变农业发展思路的一项重要举措。目前,商丘市在农业供给侧结构性改革方面仍然存在一系列突出问题,如农业基础设施薄弱
近年来,随着民办高等教育的发展,民办高校已由最初的重数量发展进入到注重内涵发展的转变进程中。在民办高校,教师群体作为教师队伍的主要力量,日渐成为影响民办学校生存和发展的
通过"3414"回归最优设计原理设置的杂交油菜肥效试验结果,获得肥料效应函数方程,由此数学模型推算出氮、磷、钾最佳施肥量的理论值,其中N 8.73 kg/667 m^2,P2O5 4.39 kg/667 m^
摘 要:教育技术是培养学生学习的工具。以技术为中心的教育技术观关注先进的技术能做什么,而以学习者为中心的观点关注如何利用技术在提高学生的学习。前者试图在学校中强力推行,但以失败告终。就计算机教学系统的发展来看,从计算机辅助教学(计算机用来传递信息)的技术中心观到智能制导系统的折衷观,再到计算机模拟学习环境的学习者中心观,教育技术的推广需从技术中心观转变为学习者中心观。  关键词:教育技术;技术中
全国高校数学文化课程建设研讨会暨第11次全国理科高等数学研究会年会于2008年7月13日至7月14日在河南省郑州市召开。来自全国110多所高校及高等教育出版社、台湾《通识在线
幼儿教育中,游戏和活动占主要地位,实施幼儿园课程游戏化,并把幼儿课程游戏化与区域活动相结合,将有利于促进儿童全面发展,并为幼儿今后发展奠定良好基础。文章结合实际,探讨
广州市第一中学始创于1928年,是民国时期广州国民政府举办的第一间公立中学,现是广东省首批省一级学校。在多年的教育教学实践中,该校形成了鲜明的办学特色,“科研兴校”、“科教
教师一研究者模式是中国教育界对于长期奋战在教学一线的教师提出的高标准要求。然而,在实际教研活动中,教师的研究报告大多是对教育现象进行描述.缺乏对理论的探索,类似于经验总