近邻传播聚类算法(Affinity Propagation,AP)是近年出现的一种新型无监督聚类算法,具有很好的普适性,但其在应用中存在以下不足:(1)在处理结构复杂、包含噪声、边缘数据点多的数据集时聚类精度不高;(2)AP算法将每个样本数据点成为候选聚类中心点的可能性均视为一致,不能有效地利用数据的先验知识加速聚类,导致算法的聚类效率低;(3)AP算法中的偏向参数ρ对聚类效果有影响较大,但其选取方法没有理论指导,需根据实验结果人为调整,导致AP自适应聚类能力下降;(4)传统AP算法所获簇的数目通常多于真实的簇数目,所得结果准确率将失去意义。针对上述四点,本文提出一种平均密度优化的概率无向图模型AP聚类算法,关键的改进措施如下:(1)针对AP算法对结构复杂数据识别能力不强的问题,引入支持向量机的组合核函数技术,将数据从低维的欧氏空间映射到高维的、非线性的Hilbert空间,提高算法对非线性、特征复杂度数据的识别能力。为降低噪声信息的干扰,利用高斯滤波算子对数据集进行平滑去噪,有助于进一步提高算法的聚类精度。对于偏向参数ρ的自动选取问题,提出使用概率无向图模型估计数据样本作为聚类中心的概率,将此概率作为聚类先验知识导入到AP算法的偏向参数ρ中,加速算法的聚类效率,再利用簇归并方法进一步提升算法的聚类精度。(2)对于边缘数据的判别问题,使用平均类密度优化策略识别并标记出边缘数据点,使之不参与AP算法的迭代,降低了边缘数据判别误差在AP迭代过程中的累积,加速了聚类中心点的出现,提高了聚类效率;在聚类后,根据边缘点到聚类中心的最短距离,划分出边缘数据的类别归属。在UCI数据集与人工合成数据集上的实验结果表明:所提算法的聚类效率和精度均优于相比较的同类算法。