专家混合系统研究及其应用

来源 :华东师范大学 | 被引量 : 0次 | 上传用户:zerorolove
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着自然科学与社会科学的不断快速发展,各个领域中的数据都以几何级数的增加,人们要从这些数据中找到对自己有用的数据,找出这些数据的规律,更好的利用这些数据就成了当务之急。为了更好的利用现有的数据进行分类预测,人们研究出了各种基于不同理论的分类预测方法。这些方法在一些领域内取得了较好的效果,但每种方法也都有一些自身的局限性,研究人员对此也在不停的进行改进。专家混合系统就是在这种背景下出现的,它集中了现有优秀的数据训练方法,例如,神经网络,各种聚类算法。它实际运用聚类算法作为门网络拟合多个神经网络的输出,形成多层的专家网络,期望达到比单个数据训练方法更好的效果。现有的预测系统存在以下不足之处:(1)由于单个预测模型的局限性问题,对不同的样本数据的误差可大可小,模型稳定性不强。(2)手工定义各个专家网络的权值局限性大,针对性差。当样本数据通过不同的专家网络训练,加权组合后得到最终输出,该权值需要人工定义,与样本无关,比重过于平均,或者组合方法不科学,导致输出预测效果减弱。为了解决以上问题,本文提出了一种基于门网络的动态的委员会机器——专家混合系统(Mixture of Experts,MoE)。对于每组要训练预测的样本数据,MoE方法利用已使用聚类算法构造的门网络自动生成聚类,找到聚类中心,然后使用这些聚类中心计算样本点相对于各个聚类的隶属度。之后,该方法又运用专家网络对这些训练样本进行训练,对测试样本进行组合预测。MoE方法不仅自动定义了各个专家网络的权值,而且该数值也能随着样本的改变而变化。基于MoE方法,本文设计实现了基于模糊C均值聚类的专家混合系统MFMoE和基于支持向量聚类的专家混合系统MSVMoE。对于每一组样本数据,MFMoE和MSVMoE分别通过模糊C均值聚类和支持向量聚类实现门网络的功能。而MFMoE依赖样本数;聚类数需人为确定;聚类形状为超球体;各类中的样本数相差不多;另外,它是启发式算法,受初值影响较大。因为SVC对小样本效果较好,聚类数目自动生成,聚类形状可为不规则,各类中的样本数也能根据实际情况产生差别,无须定义初始中心,所以本文尝试用MSVMoE改进解决这些问题,改进MFMoE。
其他文献
当前网络安全的威胁日益严重,各种网络安全事件层出不穷。由于绝大多数的攻击者都使用伪造的IP地址,使得难以区分攻击者的来源,更难以对攻击者进行追踪定位,从而不能有针对性
人工神经网络是为了研究人类的认知过程而发展起来的,它的中心问题是面向研究对象的机器学习方法与学习机器的构造问题。混沌现象是非线性确定性系统的一种内在随机过程的表现
随着移动通信技术和GIS技术的发展,人们生活水平的逐步提高,位置服务在国内逐渐兴起。由于国内电信运营商拥有无线网络设施、高精度定位系统以及多种增值业务系统,他们在发展位
随着计算机在社会各个领域的广泛应用,人们对信息系统的依赖程度越来越高。数据库作为信息系统的重要组成部分,存储着大量的重要数据,在整个系统的构建和应用中承担着核心的角色
随着计算机技术和微电子技术的高速发展,具有可靠性高、扩展性强、开发应用程序简单等优点的基于32位嵌入式处理器和嵌入式操作系统的具备通讯能力的嵌入式系统成为当前新的发
密码分析的问题可以通过穷搜索或查表法解决。但是它们分别需要需要大量的时间与存储空间。进而,穷搜索与查表法存在比较大的局限。彩虹表密码分析算法是时间与空间两个维度
随着网络的普及,企业、政府等组织中基于网络的业务越来越多,网络安全问题的影响越来越大。为保证网络的安全,很多单位投入大量资金用于购买网络安全产品。因此,对网络安全领域的
网格代表了一种先进的技术和基础设施,是继Internet之后的又一次重大的科技进步。基于Internet的网格,时时都面临着安全隐患,网格由于其自身的特殊性,它除了应用已有的网络安
随着计算机技术的普及和进步,计算机科学可视化技术也得到了迅猛的发展,特别是矢量场可视化在流体动力学中有着广泛的应用。本文针对矢量场可视化这一课题,首先对二维的稳态
数据中心网络对计算产业的重要性日益增加。然而传统的有线数据中心存在着部署困难以及布线复杂等问题。随着60GHz科技的发展,数据中心走向了无线化,数据中心也不再依赖有线