无监督特征学习（UFL）是一种自动提取数据隐藏特征的技术，广泛应用于深度学习任务中。本文将无监督特征学习分别结合到深度神经网络（DNN）和卷积神经网络（CNN）两种不同的神经网络模型中并应用于图像识别。首先，我们使用自编码器作为无监督特征学习模型，通过堆叠多个自编码器构建深度神经网络，逐层无监督训练每层隐层网络，最后使用反向传播算法对深度神经网络进行有监督调优。其次，我们将无监督学习结合到卷积神经网络中用于图像识别，方法是从训练图像集中取样一部分局部图像块集，训练一个自编码器学习其隐藏特征，将学习到的特征作为CNN的卷积核心，在卷积和采样后的特征上面训练一个分类器。本文的主要贡献包括：1)为解决固定学习速率的梯度下降法收敛速度较慢的问题，提出了一种学习速率自适应的梯度下降方法用于神经网络的训练，在训练过程中，学习速率由相邻两次迭代中参数及其梯度的差值动态确定。2)提出了一种通用的基于自适应学习速率梯度法的深度神经网络无监督训练方法，可以应用于任意隐层数和节点数的深度神经网络训练。3)针对训练数据包含大量图像样本的情况，设计了计算自编码器参数梯度的批量训练过程，加快梯度下降法训练误差的收敛速度。4)设计了卷积神经网络的批量卷积和批量采样过程，将实现的模型应用于多种图像识别任务。