聚类分析作为一种重要的无监督学习方式,已经在模式识别、图像处理、数据挖掘等领域得到广泛的研究。虽然学者们从不同的角度研究聚类技术,但是针对面向复杂数据的无监督学习问题,仍然存在着局限性。在机器学习领域中,为了在无监督学习环境中使复杂非线性数据可分,一个重要的思路是使用非线性映射将其映射到高维空间中去,使之在高维空间中线性可分。核方法是一种经典的隐性映射方法,通过使用核函数来代替线性算法中的内积运算,将待分类数据隐式地映射到高维空间,从而实现了复杂数据的非线性学习问题,尽管如此,如何针对不同的实际问题选择合适的核函数和相关参数,仍然限制了核方法在聚类分析中的应用。为此,本文主要研究新型的非线性映射方式来有效提高算法对复杂数据的无监督学习能力。本文的工作主要包括以下两个方面。(1)将多层压缩融合的特征映射新方法与经典FCM算法相结合,提出多层递阶融合模糊特征映射的模糊C均值算法。将该算法在UCI数据集中进行聚类效果对比和参数敏感性实验,实验结果可以发现多层递阶融合模糊特征映射的模糊C均值聚类算法能够有效克服聚类算法对模糊规则数的敏感性问题,同时在处理复杂非线性数据时更加高效、优越以及稳定。(2)将模糊特征映射新方法与流形正则化框架相结合,提出无监督TSK模糊系统,从而实现复杂数据的聚类分析。该算法将数据显式映射到高维空间中,利用流形正则化框架进行特征提取,寻找高维数据在低维空间中的紧致嵌入。最后与Kmeans算法相结合,对得到的低维特征进行聚类。在图像数据集中进行聚类效果对比和参数敏感性实验,实验结果表明该算法对模糊规则数的变化不敏感,同时在处理没有标签的图像数据集时能够取得更加精确和稳定的学习效果。