特征学习是机器学习中一个重要研究方向,好的特征可以提供数据的语义和结构信息,使简单的任务模型也能取得良好的学习效果。区别于使用浅层的观测特征和人工设计特征的方法,深度学习是一种可以从数据中自动学习特征的方法,其所学习到的特征往往具有较高的抽象性和语义性。通过逐层变换,深度模型可以在不同层抽象出数据的不同表示,从而很好的适应于机器学习的各种任务中。现有的深度学习方法大多采用特征变换、非线性操作和特征选择(约简)的多层迭代模型,所解决的问题也多集中在具有二维空间结构意义的领域,而对于一般的向量特征却尚无有效的应对方法。为解决普通向量特征的学习问题,本文构建起一个通用有效的级联深度模型。为此本文首先对模型中用到的特征选择方法进行了研究,提出了基于L2,p范数约束的非凸正则化特征选择模型,给出了非凸问题的求解算法。由于发掘并利用了样本特征空间内相互表示的特性,该方法可以有效的进行特征选择的任务。其次,通过组合一种通用的特征变换方法和所提出的特征选择方法,本文实现了一个多层的级联深度特征学习模型,并通过分类结果考察其学习性能。为利用模型各层学习得到的特征,本文提出了合理有效的特征组合方式,充分地提取了不同层特征间所包含的互补信息,从而显著提升了模型的分类性能。为探究有效训练数据数量的增加是否可以提升深度模型学习性能的问题,本文继而提出了一种基于手写体数字图像的数据扩展方式,并研究分析了扩展参数对模型性能的影响。实验结果表明数据增强可以显著提高模型分类结果。