实体关系抽取是自然语言处理领域的基本任务,在知识图谱、自动问答系统、信息检索等领域具有重要作用。引入预训练语言模型对实体关系抽取进行特征编码时,由于其训练时间长且对GPU资源消耗大,所以引入知识蒸馏方法保存深层网络模型（教师模型）的输出来指导浅层网络模型（学生模型）训练,改善浅层网络模型的性能,在资源有限时间紧急时蒸馏后的浅层网络模型表现出很强的有效性。另一方面,为了增强实体关系抽取模型的鲁棒性,同时提高实体关系抽取性能,引入对抗训练方法,对模型词嵌入层的输出添加对抗扰动。本文针对实体关系抽取中出现的预训练编码阶段GPU资源消耗大且训练时间长问题以及模型鲁棒性较弱问题进行研究,主要工作如下:（1）针对预训练编码阶段GPU资源消耗大且训练时间长问题,设计了基于知识蒸馏的实体关系抽取模型LSTMCas Kd。该模型以基于预训练语言模型Bidirection Encoder Representations from Transformers（BERT）编码的基础模型CASREL（教师模型）和基于双向长短期记忆网络编码的基础模型CASRELLSTM（学生模型）为基础进行设计。通过学习教师模型输出中携带的潜在知识提高学生模型的性能,实验表明引入知识蒸馏的LSTMCas Kd模型比CASRELLSTM模型在Web NLG数据集上的F1指标提高0.8%,在NYT数据集上查准率提高2.7%。与现有模型进行对比实验在数据集NYT和Web NLG上F1值优于其他模型。（2）针对实体关系抽取模型鲁棒性较弱问题,首先设计基于对抗训练的BERTCas Adv模型;为研究对抗训练联合知识蒸馏对模型性能的影响,设计基于对抗训练融合知识蒸馏的LSTMCas Adv Kd模型。BERTCas Adv模型在教师模型基础上,引入对抗训练方法,对BERT词嵌入层的输出添加对抗扰动。LSTMCas Adv Kd模型由教师模型对加入对抗训练的学生模型进行知识蒸馏得到。实验表明BERTCas Adv比不加对抗训练的CASREL模型于NYT和Web NLG数据集上F1都提升了0.3%,与现有模型进行对比实验在数据集NYT上F1值优于其他模型。LSTMCas Adv Kd比不加入对抗训练的LSTMCas Kd模型于NYT数据集上F1值提高了0.3%,于Web NLG数据集上F1值提高了0.5%。