论文部分内容阅读
语音识别就是将原始语音信号识别成相对应的文本或者其它形式的可以被计算机所处理的信息。语音识别技术是人工智能领域一个重要的研究方向,具有很高的研究价值和商业价值。近年来,随着深度学习在机器学习和模式识别领域的兴起,以及深度学习所具备的超强建模能力,能从海量的数据里“学习”到有效的信息,迅速吸引了众多国内外研究者的关注。深度学习也被应用到语音识别领域,并且取得了很好的效果,基于深度神经网络-隐马尔科夫模型(Deep Neural Network-Hidden Markov Model, DNN-HMM)的语音识别框架更是迅速取代了传统基于高斯混合模型(Gaussian Mixture Model, GMM)-隐马尔科夫模型的框架,成为当今语音识别系统的标准配置。以往语音识别所关注的语种主要是那些使用人口多或普及率高的语言,比如汉语、英语、阿拉伯语等,研究过程中所开发的技术成果在不经过太大改动的情况下就可以直接被推广到具有相似特点的语种中。经过几十年的发展,这些语种的语音识别技术发展已经日趋成熟。然而一些像维吾尔语这样的小语种的语音识别技术在国外却没有得到广泛的关注和发展。随着新疆经济的快速发展,新疆也变的越来越开放,关于维吾尔语语音识别系统开发工作的必要性及极其广阔的市场前景是不可忽略的。本文对基于深度学习的网络模型及其建模方法做了详细分析,并将基于深度学习的语音识别技术用在了维吾尔语的识别上。1、研究了基于DNN-HMM的声学建模声学模型(Acoustic Model, AM)是语音识别系统最重要的组成部分,一个好的声学模型可以提高语音识别的系统性能。本文首先介绍了深度神经网络的网络结构以及算法,然后分别用300小时和500小时的维吾尔语语音数据训练基于深度神经网络结合隐马尔科夫模型的声学模型。通过实验发现500小时的训练集训出的声学模型比300小时的训练集训出的声学模型在词识别错误率上相对下降了3.03%,这说明训练集合越大声学模型识别率越高。2、研究了基于LSTM-HMM的声学建模介绍了循环神经网络(Recurrent neural Network, RNN),但由于RNN存在后面时间节点对前面时间节点感知力下降导致的梯度消失问题,因此研究了长短期记忆(Long-Short Term Memory, LSTM)网络。通过实验发现LSTM-HMM声学模型较DNN-HMM声学模型在词识别错误率上相对下降了12.49%,这说明LSTM-HMM声学模型较DNN-HMM声学模型有很大的性能提升。3、维语语言模型优化由于维吾尔语为黏着性语言,黏着语超大词汇量会带来传统整词语言模型数据稀疏、鲁棒性不强等问题。本文通过子词建模的方法对维语语言模型进行了优化,缓解了黏着语超大词汇量带来的传统整词语言模型数据稀疏性、鲁棒性不强等问题,使词识别错误率相对下降了2.4%。