聚类作为一种无监督学习方法已广泛的应用于模式识别、人工智能、数据挖掘、图像处理、生物医学等学科。简单来说，聚类就是依据某种准则将样本点划分为不同的类别，使同一类的样本点彼此相似而不同类的样本点彼此相异。至今，依据不同的准则已提出了众多的聚类算法，虽然这些算法在一定程度上可以对数据进行划分，但仍然存在一些问题。其中需预先确定类别中心、无法准确地发现不同分布形状的数据集以及无法处理类边缘重叠的数据集是聚类算法存在的主要问题。针对这些问题，本论文利用数据集中样本和其近邻的关系，对基于近邻的聚类算法展开了研究，主要研究成果如下:　　(1)通过对数据集中样本与其近邻间关系的研究，提出了一种基于最远邻相异性而最近邻一致性准则的最远最近得分评价指标。并以此指标为基础，提出了基于最远最近得分指标的聚类算法，实现了自动确定数据集类别中心和类别数的聚类过程。仿真实验验证了所提算法的有效性以及可行性。同时，将该算法应用于图像分割问题，其结果充分证明了该算法在图像自动分割问题中的实效性。　　(2)为了克服已有聚类算法处理不同分布、类别边缘重叠等方面呈现的较差的性能，提出了一种基于连通区域生成的聚类算法，该算法是一种基于样本与其近邻间连通关系的聚类算法。在该算法中，首先提出了一种区域生成算法(CRG)获得连通区域及离散点集，不同的连通区域则对应于不同的类别。然后，依据区域扩张方法和一致性准则来将剩余的离散点进行归类，得到最终的聚类结果。实验结果充分证明了所提算法的有效性和可行性。　　(3)基于样本的近邻和逆近邻间的关系，提出了一种子区域渐并自动聚类算法，实现了对类别数和类别的自动划分。在该算法中，首先根据样本的密集度定义了样本的密集属性并挑选出密集点。然后，将密集点划分成众多子区域并依据区域间的相似度进行合并。最后，利用边缘延伸方法和集合归属度将非密集点划分到相应的区域中，得到聚类结果。实验结果，证明了该算法的有效性。