论文部分内容阅读
机器学习是人工智能的重要研宄课题之一,而分类和聚类是机器学习中的两个重要的研究课题,已广泛应用于自然语言处理、生物特征识别、计算机视觉、语音识别和图像识别等领域。目前,虽然面向大规模数据集的机器学习方法得到了较深入的研究,也获得了大量重要有价值的研究成果并广泛地应用于实际生产中,但仍有许多问题需要进一步的探索和研究。本课题主要是面向大规模数据集,从模糊聚类中模糊指数一般化、改善核化大规模数据分类的泛化性能和大规模数据分类的损失函数等3个方面给予重大关注,并进行深入研究。主要贡献如下:(1)针对基于FCM算法框架的竞争聚集聚类算法CA中模糊指数m被限定为2的问题,提出了一种更为普适的模糊聚类新算法。该算法首先在FCM算法框架的基础上引入熵指数约束条件构造了基于熵指数约束的模糊C均值聚类算法EIC-FCM成功地将模糊指数m>1的约束条件转换为熵指数0<r<1的约束条件,经分析该算法具备与经典FCM算法可比较的聚类性能。其后进一步在EIC-FCM算法的框架下融入竞争学习机制得到了基于熵指数约束的竞争聚集聚类算法EICCA,该算法由于使用(0,1)范围的熵指数约束而不再受到模糊指数仅为2的限制,增强了算法的适应性且更具普适性的特征。在模拟数据集以及UCI数据集上的实验结果同样表明,EICCA方法较之经典的CA算法性能更为优越,参数的选择更为灵活。(2)为了提高核化两类L2-SVM的泛化性能,将多视角学习引入核化两类L2-SVM提出了多视角学习模式分类算法Multi-view L2-SVM,证明了核化两类Multi-view L2-SVM亦为中心约束最小包含球并由此提出了多视角核心向量机MvCVM。所提出的Multi-view L2-SVM和MvCVM既考虑了视角之间的差异性,又考虑了视角之间的关联性,使得分类器在各个视角上的学习结果趋于一致。人造多视角数据集和真实多视角数据集的实验均表明了Multi-view L2-SVM和MvCVM方法的有效性。(3)为了提高罗杰斯特回归LR的泛化性能,将间隔参数引入LR模型提出了软间隔分类模型v-SMLRC,利用多任务学习将正则化参数和间隔参数引入LR模型提出了软间隔多任务分类模型v-SMMTL-LR。证明了v-SMLRC对偶和v-SMMTL-LR对偶均为一等式约束CDdual并由此提出了适合于大规模数据的v-SMLRC-CDdual和v-SMMTL-LR-CDdual。所提出的v-SMLRC-CDdual和v-SMMTL-LR-CDdual既能最大化类间间隔,又能有效提高罗杰斯特回归LR的泛化性能。大规模文本数据集实验表明,v-SMLRC-CDdual和v-SMMTL-LR-CDdual分类性能优于或等同于相关方法。