在传统的语音识别声学模型建模方法中,高斯混合模型(Guasian mixture model,GMM)一直占主导地位。然而,在实际应用场景中,汉语连续语音识别系统的识别效果并不理想。另一方面,人工神经网络在早期也用于声学模型建模,但在实际应用中其效果不及高斯混合模型。深度学习是近年来受到研究学者广泛关注的新兴机器学习技术,该技术主要探讨深度神经网络(Deep neural network,DNN)的建模与学习问题,对复杂问题具有很强的建模能力。深度神经网络指的是具有多层隐藏层的表示非线性关系的神经网络结构,该结构已被成功应用到与语音,文本和图像数据相关的问题。本课题首先结合三元文法语言模型建立了一个上下文相关的高斯混合模型——隐马尔可夫模型汉语连续语音识别基准系统,重点分析了模型训练过程中涉及的相关问题。另外本文还构建了两个使用了深度神经网络的汉语连续语音识别系统。其中一个系统基于深度神经网络——隐马尔可夫模型结构,在该系统中,使用深度神经网络描述给定语音信号观测特征时隐马尔可夫模型中不可观测状态的分布模型。在训练该系统的声学模型时,利用一种迭代贪婪训练算法进行训练,使用该算法能利用大量的无标签训练语料,并且可以使用预处理方法初始化深度神经网络中的权重,以帮助目标函数的优化,降低泛化误差。另外一个为基于深度神经网络的Tandem语音识别系统,该技术利用深度神经网络对语音数据作特征提取,并将新的特征向量作为汉语连续语音识别系统的输入特征向量。实验结果显示,基于深度神经网络的语音识别系统取得了较好的识别率,优于传统的依赖于上下文相关技术的GMM-HMM模型,但同时训练时间也相应增加。深度神经网络可以利用连续多帧的高维语音特征向量及语音数据的内在模式进一步提高识别率。