【摘 要】
:
高斯过程模型(GP)已经成为机器学习领域中一个新的研究热点,其良好的非参数、非线性特性以及先天概率背景,使得GP模型相对于其它传统的机器学习模型具有更优越的性能。GP
论文部分内容阅读
高斯过程模型(GP)已经成为机器学习领域中一个新的研究热点,其良好的非参数、非线性特性以及先天概率背景,使得GP模型相对于其它传统的机器学习模型具有更优越的性能。GP模型既可用于分类,也可用于回归预测,当其用于分类时又被称为高斯过程分类模型(GPC),本文主要对GPC模型展开研究。在国家自然科学基金项目(60972106)资助下,本文主要研究了GPC模型实现方法及超参数选择问题。主要研究工作如下:
(1)提出了一种基于类间距判据(DBTC)的高斯过程模型超参数选择方法。首先分析了GP模型传统的超参数选择方法,指出其不足之处,然后通过定义DBTC并分析其应用于超参数选择的优势,选用DBTC作为高斯过程超参数选择判别依据。主要实现思路为:将超参数作为自变量,DBTC作为因变量,获得DBTC随超参数变化的函数,采用共轭梯度法求此函数的极值,以此获得最优超参数。将此方法在人工生成的样本集上进行高斯过程分类实验,验证了其可行性。
(2)将本文基于DBTC的超参数选择方法用来解决实际的二维样本集分类问题。通过多个实际二维样本集分类实验,比较基于DBTC的超参数选择方法与传统超参数选择方法间的性能,本文基于DBTC的超参数选择方法应用于GPC模型时分类性能优于传统的超参数选择方法。从实验结果可看出,基于DBTC的方法的分类准确率相当于或略高于传统的超参数选择方法,且超参数选择耗时更少。
(3)将基于DBTC的高斯过程超参数选择方法用来解决高维样本集的分类问题。由于在高维空间中样本分布稀疏,使得类间距判据变得更加容易实施,因此基于DBTC的超参数选择方法在处理高维样本集分类时,相对于二维数据集分类具有更明显的优势。从高维样本集分类实验结果可以看出,超参数选择耗时显著减少,并且分类准确率与传统超参数选择方法相当或者略高。
其他文献
随着无线通信业务需求的快速增长,无线频谱资源显得愈加珍贵。因此,Joseph Mitola博士在1999年提出了认知无线电(Cognitive Radio, CR)的概念。认知无线电技术能够有效的利用
船用导航雷达作为一种船舶无线电导航设备,已从传统的模拟雷达发展到了今天的数字雷达,它是船舶用于航行避让、船舶定位和进出港引航的必要设备。显控终端作为船用导航雷达系统
矿井巷道是一个电磁波传输受限的非自由空间,信号衰落不仅来自路径损耗和噪声干扰,更主要的因素是多径干扰,致使接收端信噪比很小。传统通信方式要求信噪比满足一个典型值才
DDoS攻击是一种简单而有效的计算机网络攻击,也是当今互联网安全的主要威胁之一,由DDoS攻击引起的网络安全事件层出不穷。广大科研人员对其进行了很多研究以求检测防御的方法
智能交通系统ITS是一种实时、高效、全方位的综合交通运输管理系统。车流量检测作为其重要组成部分,为道路智能化信息管理调度与道路规划建设提供依据。目前得益于人工智
近些年来,随着国家经济和社会发展,对人才特别是高校毕业生的实践素质水平的要求也越来越高,高校根据这种变化正在调整新的人才培养方案。本文提出了基于现网商用设备作为主体搭
网络和多媒体技术的飞速发展为数字图像的存储和传播提供了极大的便利,仅依靠人力无法完成海量图像数据的及时归档、组织和管理。如何利用如此众多的图像信息并从中定位感兴
计算机技术的飞发速发展,推动了控制技术的快步发展,尤其是基于有线或无线的远程监测与控制技术更是获得了突飞猛进的发展,但对于监测节点分布范围广,环境相对恶劣,多批次小数
在过去的20年间,移动通信在全球范围内得到了迅猛发展,随着数据业务和应用的重要性与日俱增,用户希望通过移动终端随时随地的交流各种信息,包括语音、电子邮件、图片、音乐和
随着信息技术的高速发展,需要处理的信息量激增,而晶体管体积缩小即将达到极限,使得依赖于集成电路技术的领域发展遇到了瓶颈。细胞神经网络是一种应用广泛的非线性网络,虽然在进行大规模实时信息处理和集成电路实现方面有着无可比拟优势,但也遇到了此类问题。融入忆阻器天然的记忆效应优势和共振隧道二极管的负差分电阻特性,能够构建全新的细胞神经网络,该网络具有结构简单、应用灵活的优势。同时,忆阻器和共振隧道二极管均