聚类是无监督学习中用于数据挖掘的一种重要的分析方法。通过探索数据间的相似性或数据分布的特性,聚类算法可以实现最小化同类之间的差距,聚集彼此相似的类;最大化不同类之间的差距,切割彼此远离的类。因此,如何通过挖掘数据总体和局部的信息,更精细地筛选和识别边界,以区分数据的主体与边界,主动判断多种数据分布类型的真实簇是一个具有挑战性的研究方向。其中涉及类边界点的识别,聚类数目的确定,数据分布结构的判断和时间复杂度等具体问题。本文以识别类边界点为突破主线,以密度和网格为切入点,展开了深入研究,提出了基于三角近邻连接、特征提取和局部离散系数的三种新颖的聚类算法。通过挖掘和分析数据间潜在的结构特性剥离出边界点,不仅能够满足有效地实现数据的分割和聚合,而且降低了人为因素对算法的干扰。此外,本文将提出的聚类算法应用于人脸识别、降水量分布和图像分割领域。具体的研究成果有以下几个方面:（1）基于三角近邻连接的聚类算法本文提出了一种基于三角近邻连接思想的新奇聚类算法（TNCC）。提出TNCC算法的动机如下:1)利用近邻参数定义搜索的步长来遍历数据获得代表性的核心数据点,减少不必要的时间计算成本,2)解决聚类数目过度依赖外部因素的缺陷,识别彼此邻近类和低密度区域的边界,实现有效的分割数据,3)识别和判断边界类型,实现复杂数据的有效聚类,提高算法的准确度。该算法在一个初始点的基础上,以变化的步长不断寻找核心数据点,不断扩大其邻域范围,根据数据点间的距离和近邻属性构成三角近邻关系,形成类剪切点,用于分割和聚合子类。通过在14个合成数据集和9个真实数据集上的实验,验证了TNCC算法的可行性和聚类效果。通过在多个合成数据集上的交叉验证和Friedman统计检验证明了本算法的泛化能力、稳定性和差异性。在人脸识别上的应用进一步证明了TNCC算法的实用性。（2）基于提取数据特征的滚动迭代聚类模型本文提出了一种基于圆形划分数据的聚类模型（ROCM）。提出的ROCM算法的动机如下:1)以变化的圆形结构划分数据,2)克服选择截断距离和聚类数目的困难,3)提高算法处理低密度区域和边界数据的能力。ROCM依据数据分布的局部特征将数据划分成半径不同的圆形结构,最大化地聚合相关的圆形结构数据。根据圆形结构的半径大小和圆内数据的个数,得出每个圆形结构代表点的广义局部密度,利用密度峰值聚类来动态确定聚类中心,打破了人为地选择截断距离的限制;代表数据点之间的相关程度来确保聚类中心向外扩张,自适应地获得子类和边界点,实现了类与类之间的分割;联合尺度保障了子类之间的有效聚合。在数据集上的实验证明了ROCM算法的合理性和有效性,能够有效地识别此靠近类的边界,防止了人为因素对参数调节依赖的问题。（3）基于离散系数的聚类中心选择算法本文提出了一种以局部离散系数和顺位距离为载体的自动选择聚类中心的算法（VCCS）。提出VCCS算法的动机如下:1)分割相似性差的边界数据,主要分析稠密数据间的关系,2)避免手动调节聚类中心和数目的问题,减少参数的设置和降低时间复杂度。VCCS定义了一个对数惩罚密度来评估数据点间的相似性,揭示点与点之间的离散程度。本文从离散密度和联合顺位距离的角度识别边界点,有效地降低了类与类的关联,避免了连锁反应;自适应地选择多个聚类中心,扩大其邻域来选择最终的聚类中心,有效地处理分布不均匀数据区域的分类问题。在15个数据集和图像分割应用上的实验表明,本算法具有可执行性,能够有效地识别彼此靠近类的边界,对非凸型和不均匀数据的低密度区域聚类中心具有更高的识别性。参数敏感度实验结果表明,在参数取值范围较大的情况下,本算法的性能没有随着参数的变化而发生较大范围波动,体现了算法的稳定性。