【摘 要】
:
机器学习领域中存在许多对样本间相似性度量函数有需求的方法,如K近邻分类、K均值聚类算法等。度量学习是这样的一套方法,它能够自动地从数据中去学习一个最适合当前数据集的度量函数。度量学习一般是作为其他常规机器学习任务的先行步骤。经过实践证明度量学习一套有效的方法,它能够提升基于相似性的机器学习算法的表现。Bregman散度因其丰富的内涵和优良的性质常用来度量两个向量或分布之间的相似性,Bregman散
论文部分内容阅读
机器学习领域中存在许多对样本间相似性度量函数有需求的方法,如K近邻分类、K均值聚类算法等。度量学习是这样的一套方法,它能够自动地从数据中去学习一个最适合当前数据集的度量函数。度量学习一般是作为其他常规机器学习任务的先行步骤。经过实践证明度量学习一套有效的方法,它能够提升基于相似性的机器学习算法的表现。Bregman散度因其丰富的内涵和优良的性质常用来度量两个向量或分布之间的相似性,Bregman散度学习是度量学习中的新兴方向。但目前对Bregman散度学习的研究还比较少,同时噪点在各种真实数据集中普遍存在,而目前存在的Bregman散度学习方法还缺乏对稳健性的考虑。本文为了给Bregman散度学习方法引入稳健性设计了两种迭代的样本权重,分别命名为位置权重和损失权重。位置权重是针对高杠杆点这类噪点而设计的,它考虑的是在待估度量下样本点分布的位置关系。损失权重是针对离群点这类噪点而设计的,它考虑的是训练过程中样本招致的损失的大小。这两种样本权重能够给数据集中的疑似噪点一个较小的权重,减小其对统计方法的影响,从而实现统计方法的稳健性。进一步本文在前人的基础上结合自己的样本权重给出了基于神经网络的稳健Bregman散度学习算法。该算法因样本权重的存在,能够不断减小噪点对最终结果的影响,从而使学得的Bregman散度表现得更加稳健。另外在算法的设计中,该算法能在充分利用原始数据集中信息的同时保证算法的时间效率。为了验证本文方法的有效性,我们把本文的方法与目前存在的其他Bregman散度学习算法做了横向比较。通过在一些基准数据集上做了许多的分类数据分析和聚类数据分析,最后得到的结论是,本文方法不仅能够直接提升后续任务的表现,其学得的度量也表现得更加稳健。
其他文献
对像卢曼这样的世界性思想家的研究和探讨不应大而化之,也不应仅停留在先入为主的意识形态批判层面,而是应该结合中国本土问题意识,以学术共同体集体合作的形式系统地展开精密研究,进入学说继受的新阶段,推动和滋养中国本土问题和研究的进步。卢曼的思想发展轨迹大致分为三个阶段。《法社会学》是卢曼思想第一阶段的典型代表。自第二个阶段开始,卢曼的思想走向转折与过渡,并在第三个阶段完成转向。但是,第二、三阶段的转向发
在过去的两年里,"5G+工业互联网"应用场景发展迅速,企业数字化、智能化转型步伐加快,运营商的业务也越来越向互联网化、个性化方向发展。中国移动作为宽带和互联网流量主要提供商之一,在业务运营中积累了大量的用户信息,数据覆盖了用户生活的方方面面。这些庞大、稳定且快速增长的数据,为移动运营商进行用户数据分析创造了良好条件。对于运营商而言,如何准确快速地找到5G潜在客户,推荐相关业务,使未来5G用户量快速
常设机构原则作为收入来源国确定对跨国企业营业所得的征税依据,多年来,一直作为税收管辖权的划分基础来维护着各国的税收权益。但是伴随着数字经济的迅猛发展,新的商业模式逐渐脱离出传统常设机构的联结度规则范围,物理存在已经不足以衡量是否具有联结因素。交易的虚拟性、数据的依赖性、资产的流动性以及用户创造价值这些数字经济最显著的特点,给当前的国际税收规则带来十分猛烈的冲击。一方面,传统常设机构认定规则失灵,导
共享经济的时代背景下,除了出现滴滴等实体共享经济模式,将知识作为商品进行交易的新型共享经济模式也成为了热点。以知识共享为基础的不同类型知识付费平台呈现井喷式的增长,并于2016年达到顶峰。然而学界关于知识付费平台的研究较少,且以线上模式为主,研究角度也多为知识消费者与平台。在行平台作为O2O类知识共享平台(即线上交流、线下约见)模式的典型代表,在产品运营、目标用户、产品特征等方面与分答、喜马拉雅F
推进基本公共服务均等化是站在新的历史起点,身处新的历史发展阶段,促进社会公平正义、保障民生、增进福祉、应对社会主要矛盾转化的一项重要政策实践,更是不断奋进以实现第二个百年奋斗目标和实现共同富裕最终目标的必然内容和必须手段。本文以概念与理论分析为逻辑起点,以实证分析为基本方法对我国基本公共服务供给水平与财政支出效率展开研究。首先,构建一个内容准确且能复合评价的指标体系,以2010年到2019年省级地
当前我国踏进了新时期,经济发展需要从以前的经济高速增长逐步转变到高水平、高质量的发展。与此同时,新的生产要素伴随社会主义市场经济的持续发展逐渐大规模涌现,其中最具有代表性的数字经济。数字经济在中国国民经济中所占有的份量在逐步增加,并逐步成为驱动中国社会经济发展与转型的巨大新生动能。但数字经济将怎样促进中国国民经济高质量发展仍需要进一步深入探讨。基于此,论文把数字经济与经济高质量发展水平看作是关键的
无监督特征选择作为一种重要的数据预处理技术,其在不借助任何数据标签信息的情况下,能够从原始特征空间中选择出最具有价值和判别性的特征。无监督特征选择不仅能降低数据的维度,有利于数据的可视化和理解;同时由此产生的模型通常也具有更好的泛化能力。本文主要对不同数据来源场景下(单视图和多视图两个场景)的无监督特征选择问题进行研究,主要的研究工作和研究成果总结如下:(1)针对单视图场景,本文提出了基于自适应图
贫困,是指当前人类社会发展中遇到的具有普遍性的难题,无论于中国还是世界各地都在缓解贫困乃至消除贫困,致力于实现国际社会的长期目标,我国贫困问题是中国共产党和各级政府义不容辞的历史使命。从改革开放,特别是“八七扶贫攻坚计划”开展至今,我国反贫事业取得了显著的成就。通过近几年的脱贫攻坚战,2020年底我国实现了贫困人口全面清零,农村贫困人口减少了将近1亿人口,贫困县全部完成“摘帽”,加速提前完成了减贫
党的十九大报告指出,推动城乡义务教育均等化,高度重视农村义务教育。推动城乡义务教育朝着一体化的方向良性发展,具体来说就是要尽最大努力把我国义务教育阶段的每一所学校都办好,尤其是要加大力度办好每一所农村地区学校,以满足我国城乡地区每个学生发展的实际需要。义务教育是我国基本公共服务的重要组成部分,义务教育阶段也是中小学生人生中比较关键的阶段,此阶段若得到良好发展则为未来形成正确的世界观、人生观、价值观