基于梯度下降和自适应学习的高维生物数据降维可视化方法研究

来源 :华中师范大学 | 被引量 : 0次 | 上传用户:wzgl2005
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
高维数据可视化是数据挖掘领域中非常具有挑战性的难题。传统高维数据可视化方法通过维数约减方法将高维空间数据点映射到低维空间,但会受到度量空间性质的限制,难以真实的表示非度量空间中的相似性数据,因为这些相似性往往是非传递的,它们共享不同的潜在的相似性成分。例如,从疾病表型的角度来看,很多复杂疾病是多种症状的特殊组合,这些与疾病相关症状往往揭示了一个共同的疾病机理和生理机制,但显然疾病表型之间的关系是非传递性的,因此疾病的表型的重叠导致某些类型的复杂疾病难以准确诊断。高效的数据可视化方法有助于发现复杂高维数据内部蕴含的潜在模式特征和不同维度的数据的分布特性,进而帮助研究者消除高维数据之间歧义性关系的影响并做出准确的判断与预测。本文主要研究工作如下:1)基于Nesterov动量的mm-tSNE正则化的高维数据可视化方法。mm-tSNE可以将高维空间中数据点可视化到低维空间。在目标函数的更新过程中,每个参数更新的方向不仅取决于当前的梯度位置,而且取决于最后的参数更新方向。基于标准动量的梯度方法更新方向不一定准确,而且步长过大,并致算法过度的振荡。基于Nesterov动量的mm-tSNE正则化方法计算参数每次迭代更新的梯度时先施加Nesterov动量达到一个新的临时参数位置,然后在当前参数位置计算更新的权重梯度,从而提供更大且更及时的梯度校正,这种改进使得Nesterov动量方法以更快和更好的响应方式更新梯度,在收敛性上比标准动量方法更快速和更稳定。实验结果表明,与原始的mm-tSNE,mm-tSNE正则化算法相比,基于Nesterov动量的mm-tSNE正则化方法获得了更好的可视化结果并且可以更好的表示数据之间的不可传递性相似性。2)基于自适应学习的mm-tSNE正则化方法实现高维生物数据可视化。在优化目标损失函数过程中,学习率是难以设置的超参数之一,对模型的可视化性能有着显著的影响。传统的采用固定的学习率来评估每次参数迭代的梯度,单一的学习率并不适合所有的梯度搜索方向,而损失函数通常对参数空间中的某些方向更为敏感。高的学习率对于低曲率的方向将会有好的作用,但对于高曲率的方向则会有所偏离。本文提出一种自适应算法学习的mm-tSNE正则化可视化方法,采用RMSProp方法根据曲率信息自适应地设置学习率,采用每个迭代参数的梯度指数移动平均值来归一化梯度,从而提供更好更及时的梯度校正。实验结果表明:基于自适应学习的mm-tSNE正则化方法获得了比原始的算法更快的收敛速度,降低了目标损失函数的错误率,证明了非度量属性在微生物数据集、生物数据集等数据集中普遍存在。使用新的优化方法学习算法的目标损失函数,更好的缓解了非度量空间性质的约束,因此可以更好的更快的表示相似性数据的非传递性。
其他文献
活性污泥法是世界上最为广泛使用的污水处理方法,它具有处理效率高、出水水质好、运行可靠等诸多优点。但是自从1914年世界上第一个活性污泥法污水处理厂在英国运行以来,活性
通过分析修理过程中控制舱跟踪性能常见的影响因素,设计信号转接盒和三通连接器,在控制舱测试过程中一方面直接对位标器和电子舱交互信号进行监控与采集,另一方使用示波器采
某些地区因降水过量而造成的洪涝灾害,与最大一日降水量密切相关。因此,对预报时段内可能出现的最大一日降水量进行理论估算,可为防汛抗洪提供科学依据。本文应用Pearson-Ⅲ
文章针对《林业行政处罚程序规定》第29条的关于现场勘验、检查笔录的规定展开探讨,同时介绍了现场勘验、检查笔录的相关法律规定,并对其法律性质进行分析,阐述现场勘验、检
<正>品格,也就是人的品质性格,包括人的品性和品行,既体现人的性格,也表现人道德的行为。领导者的领导力有公信力、感召力、意志力、魄力、专业能力等因素决定。人的品格高下
乡土树种具有适应性和抗逆性强、性能价格比高、文化底蕴充分及标识功能强的优点。通过对乡土树种在园林绿化中存在主要问题的分析,提出了加强乡土树种应用的几点对策。
随着大学英语教学改革的进一步深入,提高学生的听说能力和跨文化交际能力成为大学英语教学的主要目标。大学英语选修课需与必修课有机结合起来以满足不同层次学生的学习需求
冷凝器是制冷系统的核心部件,其性能的优劣直接影响着整个化工生产过程的高效稳定运行。基于水冷式蒸汽冷凝系统,利用HTRI软件完成了较大热负荷的管壳式冷凝器的优化设计,考
本论文主要论述“大一统”思想对戏曲的影响,以及戏曲中蕴含的“大一统”思想内涵,对两者的联系进行系统、客观的论述,并评析在“大一统”思想影响下我国古典戏曲的文学价值