论文部分内容阅读
样本学习和特征学习是机器学习的两个重要方面。深度学习虽然具有优良的特征学习能力,但严重依赖大样本量,不适合于医疗、军事和在线学习等小样本学习领域。样本和特征子空间协同学习是近年来出现的一种解决思路,该思路从样本角度和特征角度共同进行学习,具有结合样本学习和特征学习两者优势的能力,并且子空间学习能借助集成学习的提升作用,改善小样本学习。但该方法还存在一些问题,包括样本与特征子空间如何协同抽样、如何将子空间学习与特征学习相结合、如何将样本学习与特征提取的优势相结合以及如何集成等问题。
基于此,论文基于小样本应用,具体研究样本与特征子空间协同集成算法,以及其中的关键问题,包括样本和特征子空间抽样与协同学习、特征提取、分类器集成等。论文做了以下工作:
论文针对高光谱图像分类,研究了基于分级子空间切换协同集成学习方法。首先通过快速双边滤波提取图像的空间特征,并与光谱特征结合形成空谱联合特征,再通过迭代均值聚类进行样本学习,形成分级子空间。在每个分级子空间里,通过随机子空间抽样法形成样本特征子集,在每个子集上进行半监督采样,之后通过微噪声线性降维(MicroNoise LinearDimensionReduction,mNLDR)进行特征提取。然后对每个分级子空间进行集成多核支持向量机(Ensemble Multiple Kernels Support Vector Machine,EMK_SVM)训练,并执行投票策略1,得到该子空间的集成结果。再通过投票策略2,得到多个分级子空间的集成结果,作为最终的集成模型。通过在Indian Pines等数据集上的测试,该方法表现出优于其他大多数最新方法的分类性能。
论文设计了样本子空间与相关性特征分组协同集成学习方法。首先通过随机样本子空间抽样和相关性特征分组法形成样本特征子集,再对每个子集进行边缘局部保持判别投影,训练多个基分类器后,通过L1正则化稀疏约束加权集成算法进行多个分类器的集成。该方法在多个公共数据集上的表现优于对比方法。论文还对该方法的边缘局部保持判别部分进行了参数分析。
论文设计了两种方法,将样本学习和特征学习结合起来,实现了样本与特征子空间的协同集成,改善了分类性能。
基于此,论文基于小样本应用,具体研究样本与特征子空间协同集成算法,以及其中的关键问题,包括样本和特征子空间抽样与协同学习、特征提取、分类器集成等。论文做了以下工作:
论文针对高光谱图像分类,研究了基于分级子空间切换协同集成学习方法。首先通过快速双边滤波提取图像的空间特征,并与光谱特征结合形成空谱联合特征,再通过迭代均值聚类进行样本学习,形成分级子空间。在每个分级子空间里,通过随机子空间抽样法形成样本特征子集,在每个子集上进行半监督采样,之后通过微噪声线性降维(MicroNoise LinearDimensionReduction,mNLDR)进行特征提取。然后对每个分级子空间进行集成多核支持向量机(Ensemble Multiple Kernels Support Vector Machine,EMK_SVM)训练,并执行投票策略1,得到该子空间的集成结果。再通过投票策略2,得到多个分级子空间的集成结果,作为最终的集成模型。通过在Indian Pines等数据集上的测试,该方法表现出优于其他大多数最新方法的分类性能。
论文设计了样本子空间与相关性特征分组协同集成学习方法。首先通过随机样本子空间抽样和相关性特征分组法形成样本特征子集,再对每个子集进行边缘局部保持判别投影,训练多个基分类器后,通过L1正则化稀疏约束加权集成算法进行多个分类器的集成。该方法在多个公共数据集上的表现优于对比方法。论文还对该方法的边缘局部保持判别部分进行了参数分析。
论文设计了两种方法,将样本学习和特征学习结合起来,实现了样本与特征子空间的协同集成,改善了分类性能。