数据是一种重要的资源,它记录了客观事物各方面的性质和特点。信息时代的到来,数据的重要性因此也愈发的突显。随着技术的进步,数据的获取和存储变得更加的便利。各行业都存储了大量的数据,如生物医学领域的疾病数据,计算机视觉领域的图像数据,自然语言处理的文本数据等。挖掘数据中潜在的,有价值的信息能改善生活的方方面面。聚类,分类和推荐算法等许多的数据挖掘技术成为了研究的热点。数据规模的增加能更全面的刻画客观事物,因为其保存着更多有价值的信息。但是处理大规模的数据也成为数据挖掘研究中的难点,“大数据”一词因此应运而生。大数据下,数据的分析存在这样的问题,1)样本的维度高（特征数多）,2)大量数据缺乏标注。本文运用特征选择技术来改善特征数多的问题,并创新性使用半监督技术来改善数据缺乏标注的问题。基于最小方差回归的思想,本文提出了三种半监督特征选择算法,这三种算法的优化是呈现递进关系的。本文完成的创新工作如下:1)提出了一种基于回归的半监督特征选择算法（RLSR算法）。该算法的半监督性体现在使用含标签的样本训练模型参数,然后学习出未被标注的样本的标签,重复这个过程直到算法收敛。在RLSR算法中引入了特征重要性权重进行特征选择,并为特征权重的计算提供了理论支撑。2)提出了一种基于稀疏回归的半监督特征选择算法（SRLSR算法）。对于特征权重的学习,这个算法能获得更好的稀疏解。在理论上证明了该模型隐性的使用了L_2,p–norm进行稀疏控制,其中p值越小特征权重的分布便会越稀疏。RLSR为该算法（SRLSR）,p等于1时的一个特例。3)提出了一种基于回归的判别式半监督特征选择算法（SDSSFS算法）。这个算法将有监督学习的?-dragging技术扩展至半监督学习中,这个技术能够学习出样本类标的拖拽方向和拖拽距离。模型的判别性体现在自动将样本类别向各自的方向拖拽以扩大不同类别间的距离。4)在基准数据集中,分析了各个参数对算法性能的影响、数据集的标注情况以及选择的特征数对分类准确率的影响,最后将提出的三种半监督特征选择算法与近年的特征选择算法进行对比并验证了算法的优越性。