随着信息技术和深度学习技术的快速发展,手写数学表达式的应用场景大量增加,需要快速、稳定和准确的手写数学表达式识别方法。但是因为表达式本身复杂的二维结构、手写字符的不规则和离线场景下笔画信息的缺失,手写数学表达式识别成为一项具有挑战性的工作。近年来,在手写数学表达式识别问题上出现了基于深度学习的全局识别方法,这其中以编码解码结构为代表,此类方法不需要进行单独的字符切割、识别和结构解析工作。然而目前该方法仍然存在不少问题,如现有的传统卷积网络的特征提取能力不足、循环神经网络训练时的时序依赖性导致的训练困难以及结构泛化性不强的问题,因此该领域的研究还需要不断探索。综上所述,本文的主要内容如下:（1）针对以静态图片为输入的手写数学表达式,提出一种基于编码解码结构的序列化表达式识别方法Res-MSA。首先使用基于残差网络的卷积神经网络提取输入图像特征序列,接着利用Transformer网络分析特征序列之间的对应关系,并逐字符地预测生成当前结果。本方法并行训练,收敛速度大于传统使用循环网络的编码解码模型,在CROHME2019竞赛数据集上取得了48.6%的表达式正确识别率,证明了本方法的有效性。（2）针对手写数学表达式图像中表达式部分字符大小和分布位置的差异,提出串行多尺度的图像特征提取模块。通过将Res Net网络中不同分辨率的特征图进行串行融合,达到包含图像中语义信息和结构信息的目的。本方法有效解决了Res-MSA模型中对于复杂表达式的识别困难问题,在CROHME2019竞赛数据集上达到50.25%的表达式正确识别率。（3）针对数学表达式的结构特点,将数学表达式按子结构进行分类,并提出一种树形表达方法。基于树形结构表达和多头注意力,提出树形解码模型。树形解码模型优先预测父节点,并由父节点信息预测子节点,最后分析父子节点之间的分支关系从而完成当前树节点的预测。树形解码方法取得了高于序列化解码模型的识别性能,在CROHME2019竞赛数据集上获得53.43%的表达式正确识别率。