随着自然语言处理技术的发展,大规模的中文实体关系抽取数据集日趋完善,实体关系抽取技术也受到越来越多的关注。关系抽取在自然语言处理中是一项重要的工作,它能够有效地从非结构化的文本中提取出结构化的三元组信息,并将其应用于实际的信息检索、知识图谱和问答系统等场景。但是当前中文实体关系技术面对存在实体嵌套、一对多和关系重叠等文本特点的数据集时,模型的抽取性能还是较难提升。另一方面,大规模的中文数据集较少,部分数据质量不高,且存在数据不均衡问题。针对以上问题,本文围绕基于预训练语言模型的实体关系抽取模型展开了研究,调研了国内外现有的实体关系抽取技术,整理并分析其中优缺点,结合RoBERTa-wwm-ext预训练语言模型,提出了两种解决以上问题的中文模式约束的实体关系抽取方法。首先,利用数据增强的方法,解决了数据集中语料不平衡的问题。由于Du IE2.0数据集中百度贴吧数据相对百度百科和百度信息流的数据占比较小,所以使用网络爬虫技术爬取百度贴吧口语化语句,并使用机器翻译的方法进行“回译”,以此来扩充现有数据集。最后,在数据增强前后的数据集上分别进行实验。实验结果表明对原数据增强后,模型的F1值也有了一定的提升,从而证明了数据增强的方法对于模型性能的提升有一定的帮助。同时,在此基础上本文提出了一种先进行实体识别后关系分类的层次抽取方法。在第一个阶段,为了更好地解决同一个字在不用语句中的不用语义信息问题,选择RoBERTa-wwm-ext预训练语言模型训练了动态的词向量,从而增强字的语义特征。在模型的解码层使用全局指针的归一化思想,将实体的首部和尾部视为一个整体进行识别,减缓实体嵌套带给模型抽取性能的影响。在第二个阶段,将上一阶段预测得到的实体数据作为先验信息与原始文本相结合,并将其输入到卷积模型中。在进行数据增强后的Du IE2.0数据集中,模型的实体识别和关系分类实验的F1值均显著高于基准模型。最后,本文建立了一个以RoBERTa预训练模型为基底的融合知识表示的联合抽取模型,解决了基于流水线模型存在的误差传递问题。抽取策略采用先抽取句子的一个主体,并把主体传入下一个模块中帮助识别另一个客体与关系类型,以解决实体嵌套的问题。最后在关系预测模块,融入一种基于知识表示的Trans E表示学习方法,并由此获得了实体之间可能存在的关联信息。最终模型在数据集上的F1值表现比基准模型提高了2%至3%。