聚类分析是机器学习中无监督机器学习的一个重要分支,也是多元统计分析的方法之一。聚类分析需要将数据集划分为几个不同的子类,并且同一类别中的样本尽可能地相似,不同类别中的样本尽可能地不同。随着信息技术的高速发展,数据的维度和复杂度也爆炸式增长,给聚类分析带来了新的挑战。事实上,现实生活中的真实数据集通常是高维非线性的,数据具有独特的内部关系,呈现出复杂的多流结构。因此,如何在保留数据集的典型特征的基础上,挖掘数据之间的潜在分布规则,获得更有效的聚类结果,是数据挖掘领域的一个重要研究方向。针对流线型数据集的聚类问题,密度峰值聚类（Density Peaks Clustering,DPC）算法的聚类结果显然是不合理的。虽然带有噪声应用的基于密度空间聚类（Density-Based Spatial Clustering of Applications with Noise,DBSCAN）算法对数据集的适应性更强,却面临参数选择的问题。因此本文将自然邻居搜索与边界点检测相结合,提出了两个改进的算法,主要研究内容如下。针对流型数据没有聚类中心的特点,本文提出了一种基于自然邻居的去边界聚类算法（Natural Neighbor Clustering Algorithm Without Boundary,NNC-wbo）。该算法首先通过自然邻居搜索算法,获得自然邻居特征值以及自然邻居关系矩阵,将搜索稳定状态下没有自然邻居的数据标记为噪点。然后结合局部异常因子检测算法提出组内离群度的概念,通过计算每个样本数据的组内离群度,将数据标记为核心点或边界点。最后利用核心点的自然邻居关系进行聚类。实验证明NNC-wbo算法可以有效识别流型数据集的边界点,并且在人工数据集和真实数据集上均获得了良好的聚类结果。多数情况下自然邻居搜索算法会在第一次自然邻居关系矩阵不再发生变化的情况下终止算法,这就导致某些稀疏位置的数据被误判为边界,导致聚类精度下降。因此本文又提出了一种基于自然邻居扩展组的改进边界点检测聚类算法（Improved Clustering Algorithm for Boundary Point Detection Based on Natural Neighbor Expansion Group,INNEG）。该算法在获得自然邻居特征值后,扩大搜索范围获得更多的数据结构。然后将所有数据分为多个自然邻居扩展组,利用图论算法的知识计算不同自然邻居扩展组之间的接近度,最后进行聚类。经过在人工数据集和真实数据集上进行实验,可以发现INNEG算法精度比NNC-wbo算法更高,并且因为自然邻居扩展组的数量远远小于样本数据的数量,算法所需时间也明显减少。此外,在处理密度差距较大的数据集时,聚类结果的稳定性也有所提升。