随着互联网的快速发展,海量的信息以各种方式出现,其中最主要的还是文本信息,因此文本自动分类成为了国内外研究的热点,现在已经出现了大量有效的分类方法,例如：Naive Bayes、KNN、SVM、决策树以及神经网络等。在处理海量信息时,因为有大量的训练样本可供其学习,所以SVM方法是效果最好的。但在缺少样本的情况下,使用SVM, KNN等方法的分类效果并不出色,其原因是因为向量模型只选取了文本的数字信息,而忽视了文本中词的联系。本文在分析特征选择时信息增益法和互信息方法的计算方式的差异的基础上,给出了一种基于空间角度的特征选取方法,以有效降低特征词的维数。在分析了向量空间模型的缺点的基础上,给出了基于图模型的方法,以及相似度比较和Graph-KNN分类算法,来提高小样本集下的文本分类的准确度。对各算法进行了仿真,进行了大量的训练和测试,对比了本文给出的方法和未改进的KNN方法的各项性能,证实该方法的确能提高小样本集下的文本分类的准确度。本文的最后分析了该方法应用在全文检索系统上的可行性。