论文部分内容阅读
随着信息系统计算能力和存储能力的提升,大数据正源源不断地产生,各行各业收集了琳琅满目的大数据,这些数据中蕴藏着巨大的价值,已经引起全球各界的广泛关注。我国疆域辽阔、人口众多,无时无刻不在产生巨量的数据,这些数据已经成为我国重要的战略资源。大数据往往具有极高的维度和海量的数据,这为大数据分析带来了巨大的机遇与挑战。一方面,海量的数据为大数据分析方法提供全体数据,而不仅仅是数据样本,这能显著提高概率估计算法的精度。另一方面,极高的维度使得传统的机器学习与数据挖掘算法变得不可用,加剧了维数灾难问题,使得因果关系分析变得十分困难。由于相关关系分析具有可解释性强、效率高等优势,受到了越来越多的关注。本文以大数据相关关系挖掘为研究课题,重点研究了目标变量与特征和交互作用之间的相关关系。在机器学习与数据挖掘领域,特征选择被广泛应用于分析特征与目标之间的相关关系,该方法能够得到与目标变量相关的关键特征。因此,本文提出使用特征选择方法分析特征和交互作用与目标变量之间的相关关系,重点研究了大数据相关关系挖掘中的四个关键问题:因子交互作用挖掘问题;因子排序和显著性分析问题;大数据相关关系挖掘方法的效率问题;大数据相关关系挖掘的实际应用问题。本文的主要研究内容可分为如下四个部分。(1)针对大数据相关关系挖掘的因子交互作用挖掘问题,提出了基于信息论的特征选择方法。主要开展了三方面的研究工作。第一,为了研究基于特征选择的交互作用挖掘方法的理论基础,提出了基于互信息的特征选择方法的理论框架,该框架将特征选择问题分解为一系列交互作用的和,现有的大量基于互信息的特征选择方法都可以规约到该框架。第二,提出并实现了一种通过交互作用信息量考虑高阶交互作用的特征选择算法Max-Interaction。第三,提出并实现了一种通过联合互信息和最大最小方法考虑二至四阶交互作用的特征选择算法FJMI(Fourway Joint Mutual Information)。大量实验表明,Max-Interaction和FJMI能有效地挖掘显著的交互作用,并提升了特征选择算法的性能。(2)针对大数据相关关系挖掘的因子排序和显著性分析问题,提出了基于试验设计的特征选择方法。主要开展了四方面的研究工作。第一,提出并实现了一种基于析因设计的特征选择算法FDFS(Factorial Design based Feature Selection),FDFS能够同时选择重要的特征和交互作用,通过因子效应对特征和交互作用进行统一排序,并通过p-value对各个特征和交互作用的进行统计学显著性分析。FDFS成功挖掘了PM2.5数据集的一个重要交互作用:风速与风向的交互作用。第二,提出了通过部分析因设计降低FDFS方法所需的因子水平组合数量,从而允许分析更多特征。为了进一步提升FDFS算法的效率,提出了一种为输入数据集快速搜索最大析因设计的算法。第三,提出了一种基于Taguchi方法的自动调参方法。Taguchi方法不仅能从众多参数中识别出关键参数,而且能够得出统计意义下最优的参数值。第四,研究了将试验设计应用于解决分类问题的方法。首先将目标变量转化为多个二值变量,然后通过连接函数将二值变量转化为连续型变量,最后通过多变量线性回归方法融合多个二值响应变量的结果,得到原分类问题中的显著特征和交互作用。(3)针对传统大数据相关关系挖掘方法的效率问题,提出了使用量子计算加速特征选择算法的方法。主要研究通过量子计算提升基于特征选择的大数据相关关系挖掘算法的效率,开展了两方面的研究工作。第一,提出了使用量子计算加速基于互信息的过滤式(filter)特征选择算法。通过量子计数算法加速基于直方图的概率分布估计算法,以及量子最小值算法加速求解变量值域和目标函数的最大值,最终使过滤式特征选择算法实现了二次加速(quadratic acceleration)。第二,提出了使用量子计算加速嵌入式(embedded)特征选择算法。通过量子算法HHL加速矩阵求逆运算,以及量子向量内积算法加速矩阵乘积运算,最终加速了嵌入式特征选择算法。(4)针对大数据相关关系挖掘方法的实际应用问题,将本文提出的信息论特征选择方法应用于文本数据的相关关系挖掘。由于万维网和社交网络的飞速发展,大量文本数据被收集和处理,文本数据的特征是单词或短语,因而文本大数据的维度高并且数据量大。针对文本大数据,使用Max-Interaction算法和FJMI算法得到了更好的特征选择性能,并能够自动地挖掘显著的交互作用,单词之间的交互作用可解释为短语。