众所周知,分类决策是模式识别领域中最基本和最重要的问题之一,在计算机视觉领域内也是一个非常活跃的研究课题。如何找到一个行之有效的分类识别算法,以提高模式识别率便成为了一个关键问题。KNN作为一种经典的分类算法,广泛应用于字符识别、人脸识别等各个方面。但是KNN也有其不足的地方,对于KNN的改进一直学者们研究的热点,目前已经有很多的改进方法。这些改进方法或提高KNN算法的分类效率,或改善分类算法的分类性能。本文重点研究了KNN的改进算法,主要工作如下：1)综述了模式分类的算法,概括总结了KNN的若干改进算法；2)针对传统KNN的不足和局部均值算法无法处理非均衡数据的弱点,提出了K-最近邻均值算法。在NUST603HW手写体汉字库和CENPARMI阿拉伯数字库上的实验结果表明：K-最近邻均值算法在识别率上高于传统KNN算法,并且在非均衡数据下比局部均值算法具有更优的分类性能；3)提出了一个K-最近邻回归分类算法,该算法充分利用K-最近邻的结构信息,弥补了KNN的不足。在Yale B, FKP, AR和ORL四个数据库的实验结果表明：所提出的K-最近邻回归分类算法由于传统的KNN算法、最近邻子空间算法和线性回归算法。