哈希降维与K均值聚类模型的改良

来源 :广西师范大学 | 被引量 : 1次 | 上传用户:liuyibi1987
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
机器学习在高维数据种的应用非常广泛,同时也存在许多问题。高维数据如何降维,存储,分析和管理都是机器学习任务种经常遇到的问题,本文研究和扩展现有哈希降维与K均值聚类模型,提出新的哈希算法对哈希函数构造中通常没有考虑数据相似结构的问题和高维数据的聚类算法存在的一些问题进行研究。具体地说,(1)提出了一种基于PCA的方差旋转哈希算法(Principle Component Analysis Rotation Hashing Algorithm,PCAR)。哈希算法由于能将高维数据编码为二进制字符串而被广泛的应用于高维数据降维问题,但是现有的哈希算法仍然存在如下问题:(i)、传统的哈希算法采用固定的数学公式构造哈希函数,无法对数据拟合,因而无法获得好的哈希效果;(ii)、现有哈希算法通常分别学习哈希函数与二值化阈值,过程繁杂容易造成误差;(iii)、已有一些改进的哈希算法没有同时考虑数据的全局与局部的结构信息。因此,本文第三章提出的PCAR算法结合了PCA(主成分分析)和流形学习来解决传统哈希算法通常只考虑一种结构的不足。详细地说,PCAR算法利用PCA(主成分分析)保留数据的整体相似结构,同时结合流形学习保留数据的局部相似结构。在真实数据的模拟实验中,PCAR算法比常见的AGH、DSH、KLSH、LSH、MDSH、SGH、PCAH算法效果要好。提出的基于PCA与流形学习的目标函数不但考虑了数据的局部结构,也同时考虑了数据的全局结构,因此在一定程度上改进了原有哈希框架,丰富了现有哈希框架同时也扩充了其应用范围,即提升了哈希算法在高维数据检索与分析上的性能。(2)提出了一种基于自步学习的聚类算法(Self-paced Learning for k-means Clustering Algorithm,缩写为SPKC)。聚类算法是机器学习算法中的一种关键算法,然而现有的K均值聚类存在一些不足:(i)、聚类结果对噪声样本与离群样本非常敏感,容易造成较大误差;(ii)、k值得选取对聚类结果的影响非常大,鲁棒性较差;(iii)、由于求解传统的K-means聚类得过程是非凸优化问题,常常容易陷入局部最优解。因此,本文提出了一种引入自步正则化项得聚类算法来解决上述问题。先将K-means聚类转换为矩阵分解的问题,在此基础上加入自步正则化项,通过自步正则化因子将样本进行排序。从而模拟人类学习过程从易到难加入样本至模型中进行训练。在真实数据实验上,本文提出的SPKC算法比K-means、K-means++、ISODATA、FCM、方法效果要好。提出的基于自步学习的K-means聚类算法在一定程度上丰富了现有聚类模型框架,同时也将自步学习技术推广应用于高维数据聚类方面。本文对机器学习领域中的哈希降维算法关于如何结合保留局部与整体相似结构和高维数据的K均值聚类模型的改进两个方面进行了研究,即首先使用PCA(主成分分析),流形学习,自步学习改进哈希与聚类两个方面现有算法存在的不足,提出了两种改进的机器学习算法。本文中的研究的每种算法都使用了真实的公开数据集与对比算法进行实验对比和分析,本文提出的两种算法在多个评价指标下优于现有的常见算法。
其他文献
市场经济背景下,我国各出版社纷纷进行体制改革,其内部控制管理也随之发生变化,多数出版社不断完善内部控制制度、改变运营模式、强化内部管理,一定程度上提高了出版社的经济
甾体化合物及其衍生物广泛的存在于自然界,与许多生命过程密切相关。随着对其需求量的大量增加,依靠提取天然产物的甾体已经无法满足人们的需要,目前已逐步走向人工合成。由
20世纪80年代,拉美的债务危机以后,政府债务问题开始引起世界关注。而20世纪90年代末期东南亚金融危机爆发后,政府债务危机再次吸引了世界的目光。而本轮始于2009年11月的迪
以斜六辊钢管矫直机快开缸的液压插装阀控制回路为基础,从理论上分析了插装阀启一闭时间差△£对机械设备的影响,解决了现场调试中出现快开缸快开时有下窜、振颤的现象,通过电气程
家电销售企业的主要精力集中在正常商品的销售,因此对于正向物流非常重视,但是其逆向物流由于公司政策不重视,往往做得比较差。同时家电产品市场竞争激烈,降价周期普遍较短,
<正>地域文化是在特定的自然地理环境和社会文化环境中产生、发展、升华的物质和精神财富。作为地域文化结晶的建筑和景观,是地域文化在物质环境和空间形态上的具体表现,彰显
柴达木盆地柴西南区跃灰101井区下干柴沟组上段Ⅳ油组储集层为致密湖相碳酸盐岩,该类储集层脆性评价缺乏定量表征依据。通过致密油储集层脆性指数预测,探讨了致密油储集层脆
<正>2011年年底,中外园林建设有限公司投标赤道几内亚马拉博国家公园建设项目,一举中标。这是公司空前的大型公园项目,合同总造价6千多万欧元、约合人民币近5亿,涉及施工种类
以有关体育审美根源性问题为切入点,在当前我国进入休闲时代,审美方式发生重大变革背景下,探讨体育审美与其他审美形式之异同,研究认为:1)以体验运动美,获得健康美为核心的身
自20世纪90年代以来,产业内贸易己逐渐成为中日贸易的重要组成部分,产业内贸易的发展对两国间贸易结构的优化和产业结构的调整有着重要意义。中国是最大的发展中国家,日本是科技