文本问答,旨在构建能够回答任意自然语言问题的计算机系统,是自然语言处理与人工智能领域内最具难度的挑战之一。阅读理解式问答,又称机器阅读理解,是文本问答的一个子任务,在近年来受到学术界和产业界的极大关注。机器阅读理解的目标是教会机器阅读并理解人类语言文本并回答相应问题。由于该任务天然地可以被用来衡量机器自然语言理解能力,因此具有重大的研究价值。此外,阅读理解技术还能被广泛应用于问答应用、搜索引擎以及对话系统中,故具备极强的实用性。近年来,随着大规模阅读理解数据集的发布以及深度学习技术的快速发展,机器阅读理解相关研究取得了令人瞩目的进展。尽管取得了如此成就,却仍然存在许多挑战如:1)当前方法的模型结构和训练方法中存在制约模型性能的问题;2)当前具备顶尖性能的集成模型在实际部署时效率低下;3)传统方法往往是在段落中必须存在答案的假设下设计的,因此无法有效处理无答案问题;4)当前大部分模型是针对单段落场景设计的,故无法有效扩展至开放域问答;5)当前大部分模型无法有效支持离散推理和多答案预测等情况。因此,为了应对上述挑战,本文聚焦机器阅读理解,从注意力机制、训练方法、知识蒸馏、答案验证架构、开放域问答和多类型-多答案预测机制等方面开展若干关键技术研究与实证分析。本文的主要贡献总结如下:第一,针对当前多层注意力架构中的注意力冗余与缺乏问题,以及强化学习训练方法中的收敛抑制问题,提出一个面向抽取式阅读理解的强化助记阅读器,以提升模型性能。该模型在多层注意力架构中引入重关注机制,并在训练时采用动态-评估的强化学习方法来解决上述问题。在阅读理解基准数据集上的实验结果表明,相比之前方法该模型获得了极大的性能提升,我们的集成模型甚至取得了和人类媲美的精确匹配性能。第二,针对知识蒸馏过程中的有偏蒸馏问题,以及无法高效蒸馏中间表示的问题,提出一个面向阅读理解模型压缩的知识蒸馏方法——注意力指导的答案蒸馏方法,以提升模型效率。该方法综合利用标准知识蒸馏、答案蒸馏以及注意力蒸馏来在不降低模型性能的情况下将集成模型压缩为单模型。在三个阅读理解基准数据集上的实验显示,蒸馏后单模型效率得到大幅度提升,且性能甚至在两个数据集上超过了集成模型。第三,针对无答案阅读理解模型的概率互相干扰问题,以及当前方法缺乏一个独立的答案验证阶段的问题,提出一个面向无答案问题的阅读+验证架构,以提高模型对无答案问题的检测精度。该架构包含一个在抽取候选答案的同时检测无答案问题的无答案阅读理解模型,以及一个用来进一步判断预测答案是否正确的答案验证模型。此外,我们引入了两个辅助损失函数来增强阅读理解模型,同时探索了针对答案验证任务的三种网络结构。在斯坦福问答数据集2.0版上的实验显示,该架构在面对无答案问题时的检测精度得到显著提升。第四,针对当前流水线方法面临的训练-测试不一致和重复编码问题,提出一个面向开放域问答的检索-阅读-重排序网络,以提高开放域问答系统性能。该模型包含一个早期停止的检索器、一个远程监督的阅读器、以及一个跨度级答案重排器。这些组件被集成到一个统一的神经网络中以便进行端到端训练来缓解训练-测试不一致问题。另外,编码表示能在多个组件之间被复用以避免重复编码。在四个开放域问答数据集上的实验显示,该模型相比流水线方法性能更优,同时效率更高。第五,针对当前离散推理阅读理解模型面临的答案类型覆盖不全、无法支持多答案预测以及孤立预测算术表达式等问题,提出一个面向离散推理阅读理解的多类型-多跨度网络,以提高在离散推理场景下的模型表现。该模型使用一个多类型答案预测器以支持对四种答案类型的预测,采用一个多跨度抽取方法以动态地抽取指定个数的文本跨度,并使用一个算术表达式重排名机制来对若干候选表达式进行排序以进一步确定预测。在离散推理阅读理解基准数据集上的实验表明,该模型显著提高了答案类型覆盖度和多答案预测精度,因此相比之前方法性能获得了大幅度提升。