基于神经网络的半监督学习方法研究

被引量 : 22次 | 上传用户:s362613932
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
传统监督学习方法需要利用大量有标记的样本进行学习。然而在实际应用中,标记样本的采集和整理工作费时费力,标记样本不足已经成为制约监督学习方法的瓶颈之一。无监督学习虽然不需要标记样本,但是缺乏先验知识的有效引导,模型的准确性难以保证。半监督学习(semi-supervised learning)正是近年来涌现出的一种综合利用标记样本和未标记样本进行学习的理论。目前,半监督学习理论尚处于发展阶段,在结构自适应调节、增量式训练和提升标记样本序列的利用效率等方面仍有待完善。为解决上述问题,本文提出几种基于神经网络的半监督学习方法,力图借助神经网络在结构动态调整、可逆学习以及知识提取与整合等方面的优势提高半监督学习方法的性能。本文的研究可概括为以下三个方面:1)提出半监督贝叶斯ARTMAP(semi-supervised BayesianARTMAP,SSBA)网络,SSBA实现了Bayesian ARTMAP网络与EM算法之间的优势互补。SSBA采用BayesianARTMAP的学习框架,具有根据标记样本和未标记样本的分布状况自适应生成网络节点的能力,可以克服EM算法必须预先设定高斯成分数目的局限。另一方面,SSBA利用EM算法调节网络参数避免了“胜者为王”(即每次只更新获胜节点参数)的硬性调整方式,使得网络能够更加充分地考虑到未标记样本类别归属的不确定性,进而可以有效学习未标记样本中的类别特征信息。仿真实验表明,SSBA的泛化能力明显优于Bayesian ARTMAP网络和EM算法,是性能可靠的静态半监督学习方法。2)提出一种增量式半监督学习方法,命名为三重可逆极端学习机(ternary reversibleextreme learning machine,TRELM)。当前多数半监督学习方法均为静态训练模式,它们的共同特征是重复训练,即算法需要重复学习所有的标记样本和未标记样本多次才能保证精度要求。重复训练导致运算量巨大、半监督学习速度缓慢等问题。本文提出的TRELM将三个可逆极端学习机作为其内部的基学习器,它只需要利用新扩充的样本和新检测出的无效记样本即可完成半监督训练任务,有效避免了重复训练带来的不利影响。仿真实验表明TRELM可以降低半监督学习过程中的重复性运算并且显著提升半监督学习的泛化成绩和训练速度。3)提出一种广义半监督学习系统—基于ARTMAP网络的范例推理(case-basedreasoning,CBR)分类系统,并将其应用于遥感图像序列的分类问题。多数半监督学习方法仅着眼于学习同一时刻的标记样本和未标记样本,缺乏对以前获取的样本序列的挖掘和整合。本文所提分类系统将ARTMAP网络作为知识的提取器,并按照CBR框架进行知识的管理操作,可实现遥感样本数据的合理储备、优化组合和重复利用;在一定程度上拓展了半监督分类方法的样本选择范围,提高了数据序列的利用效率。
其他文献
<正>软件企业是我国税收优惠政策的"宠儿",不论是流转税,还是所得税,国家和地方均有减免或即征即退等税收优惠。这从财税[2008]1号文件,可以看到其优惠的"力度":我国境内新办
3月2日-3日,安徽省胸科医院医联体办公室与胸外科专家组赴临泉县人民医院,参加临泉县人民医院与安徽省胸科医院医联体工作推进会,开展对临泉县人民医院胸外科托管的交流对接
<正>PREFACE/前言从现代财务会计决策和规范理论角度看,沉没成本已经支付了,无法再收回或补偿,将其归属于决策不相关成本,因而沉没成本不应该影响当前或未来决策。然而,一旦
本文以印度教师教育课程设置作为研究对象,在梳理其课程政策演变的基础上,讨论了当前印度教师教育面临的问题及其如何通过课程改革回应这些问题与挑战,从而使师资培养更加适
本文主要谈一谈肉牛的饲养管理技术。1牛场的选址及牛舍的建造牛场的布局要科学合理,牛场的管理区、生活区、生产区、粪便处理区应分开。牛场的选址应远离居民区,要求地势较
<正> 中国交响乐事业所面临的最大问题是什么呢?是人才问题吗?是资金问题吗?是环境问题吗?为什么这些年来,其他领域都取得飞速发展的成绩,而交响乐领域却总爆出
大黄 虫丸出自张仲景《金匮要略·血痹虚劳病脉证并治第六》。方药有熟大黄、黄芩、生地黄、 虫、水蛭、蛴螬、虻虫、桃仁、杏仁、芍药、干漆、甘草。具通经疏脉、破瘀生新
穆时英研究的趋势是一个从政治层面到艺术视角,从外部批评走向内部研究的过程。
数学学困生的转化一直困扰着一线教师,怎样把老师从繁重的教学工作中解脱出来,以期取得事半功倍之效。本文作者结合多年教学实际和带考经验,从教材把握、课堂教学、作业的布
印象主义画家创造了灿烂的光与色的绘画效果。在印象派画家的笔下,一切都神奇地化成闪烁着光彩的色块。对色彩如此敏感的画家,却对黑白世界的版画同样有异乎寻常的偏爱。印象