目前,深度学习在图像识别、语音识别、文本分析等人工智能领域已经取得广泛成功应用。然而在图像识别问题上,小样本数据下网络结构设计和网络训练的研究还比较缺乏;在目标检测问题上,没有形成基于深度学习的目标检测框架;在回归预测问题上,有效的深度特征学习模型还没有形成,利用深度网络进行特征选择的成果也十分稀少。针对以上问题,首先,本文实现了基于卷积神经网络(CNN)的图像识别和目标检测,通过固定初始化CNN的参数和整体有监督微调训练方式,较好的完成了小样本、低分辨率情况下的图像识别任务,并在此基础上提出了一种基于CNN的目标检测框架,实现了图像中的单目标检测或多目标检测。其次,针对深度学习网络在回归问题上应用较少的现状,本文提出了一种新的SCAE-SVR回归模型,改进了经典的堆叠紧缩自动编码机,引入支持向量回归机来代替经典深度特征学习网络末端的全连接层,结合了深度学习网络在特征提取上的优势和支持向量回归机在回归性能上的优势,增强了深度学习网络的预测能力。再次,针对深度学习网络在特征选择研究上的欠缺,本文提出了改进的稀疏自动编码回归模型,通过稀疏性约束来获取自动编码机隐藏层的稀疏特征表达,并用这些特征来描述对重构输入信息的贡献。特征筛选的依据是去除对重构输入信息贡献最小的特征,保留其他贡献较大的特征。改进的稀疏自动编码回归模型提取和筛选出的隐藏特征具有更强的预测能力。综上所述,本文分别从训练方法、网络结构及模型算法三个角度研究和改进了深度特征学习网络算法,并通过实际应用证明了改进算法的有效性。