深层人工神经网络的结构跟生物神经网络结构类似，可以很好的适用于图像识别这个问题。目前，关于将深度神经网络应用在图像识别问题上已经取得了很多令人振奋的成果，然而距离将深度神经网络投入诸如图像检索、图像标注、图文转换等实际应用中还有很多问题需要克服。本文针对深度神经网络结构进行研究，改进了常用的训练算法，同时针对不同的应用场景，提出了两种新的神经网络模型。首先，本文针对深度神经网络在图像识别领域上的应用进行了详细的研究，并提出了一系列改进算法提升了现在最优模型的性能。在参与相关评测比赛中获得了不错的成绩。基于本文改进算法，设计实现了一个在线图像识别系统。在使用大规模搜索引擎用户点击数据训练高级图像特征得过程中，本文发现搜索引擎的用户点击数据不同于人工标注的训练数据，它具有数据分布不均衡、同义类别数据较多等问题，而这些问题对多分类神经网络的训练有很大影响，基于这些问题，本文提出了一种适用于实际数据分布情况的基于多任务深度神经网络的图像高级特征学习方法，最后将本方法训练到的特征应用到图像检索任务中获得了较基于传统图像特征的方法更好的图像检索效果。最后，本文提出了一种基于Bag-of-words的神经网络模型，通过该模型可以学习得到基于视觉信息的词表达，同时可以将图像的特征表达和自然语言的词表达映射到同一空间中，完成了一套同时支持从词到图像、图像到图像、词到词、图像到词这四个不同方向上的相关程度运算的系统。