近年来,随着深度学习技术的高速发展,人类在自然语言处理方向的研究不断深入,对于语料库的需求也日益增多。语料库作为一个存放语言材料的数据仓库,是自然语言处理以及计算机语言学的研究基础,为分词任务、实体识别任务以及关系抽取任务等提供了有效的底层数据支持,推动人们对语言的理解和应用。而在内蒙古,该地区有着丰富的历史文化,但许多历史人物、事迹以及民族发展等都是以书籍文献等纸质文本方式进行记载存储,不利于知识文化的传播以及学习。为此,本文基于内蒙古历史,对其进行语料库构建,涉及到三大部分:中文分词、实体识别以及关系分类。面向内蒙古历史的领域语料库构建,能为上层的、与内蒙古历史文化相关的知识图谱、智能问答、推荐系统等提供了原始的数据支持,让人们能够更加快速地学习和了解内蒙古历史,推动了其文化的发展与传播。本文主要研究内容如下:（1）基于深度主动学习构建内蒙古历史领域的中文分词和实体识别语料库。本文把中文分词和实体识别都视为成一个序列标注问题,深度学习模型采用BERT+Bi LSTM+CRF框架,主动学习的样本选择策略使用MNLP（Maximum Normalized Log-Probability）算法。最后成功标注15542条句子,总词数达到388789个的中文分词语料库;实体识别语料库则标注了19种不同类别、共计56140个实体。在这两个语料库的基础之上,本文使用BERT+Bi LSTM+CRF框架分别训练了内蒙古历史领域的中文分词模型M-CWS和实体识别模型M-NER,其中MCWS和M-NER的F1值分别为96.63%和86.57%,能够满足于一般的使用场景需求,同时这两个模型也用于本文原型系统中的展示平台。（2）基于远程监督方法构建关系分类语料库。远程监督的思想在于若实体对共现在一条句子中,则认为该句子能够表达实体对之间的关系,但这种方法提取的语料存在大量的噪音。为此,本文提出一种基于触发词的匹配对齐方法,利用M-CWS分词模型对触发词进行全词匹配,实现对13种单向关系,共计29203条句子的内蒙古历史领域的关系分类语料库构建。在此语料库的基础之上,本文使用BERT+Bi LSTM+Softmax框架训练了一个内蒙古历史领域的关系分类模型MREL,该模型F1值达到88.95%,能够满足于一般的使用场景需求,同时该模型也用于本文原型系统中的展示平台。（3）实现原型系统。本文实现的原型系统包括标注平台和展示平台两个部分。其中,标注平台主要辅助标注人员标注以及语料的存储,如PDF文件转换成TXT文本、相对应语料的标注页面、语料管理页面、语料导出等功能。展示平台则分为图谱展示以及句子识别,图谱展示对内蒙古历史人物关系及相关属性进行可视化展示,便于历史脉络的梳理和整合;句子识别则使用M-CWS、M-NER和M-REL模型来对句子进行中文分词、实体识别以及关系分类。