随着信息化程度的提升,每天在网络上生成了海量的自然语言数据,这些数据具有极大的挖掘价值。实体识别是用来挖掘实体信息点的任务,实体识别的准确程度将直接影响以实体为支撑的后续自然语言任务。但是,基于深度神经网络的实体识别方法还存在着一些不足:（1）基于深度神经网络的实体识别模型是监督学习模型,监督学习模型对样本数据极度贪婪。然而,在实际的生产环境中只能用有限的标注成本标注少量样本,无法构建大规模的标注样本集,给实体识别模型性能带来了巨大的困难。（2）即使标注了一个高质量的小样本集,但是语义特征和句法特征的不足依然限制着实体识别模型的性能。语义特征和句法特征是通用的特征,并且具有多样性的特点,需要在大量文本中才能准确的把握语义和句法特征。针对以上问题,本文的主要工作包含以下几个方面:（1）针对标注成本有限,不能构建大规模标注样本集的问题,本文在原有方法的基础上提出了一种改进的基于不确定性的主动学习方法,并将此方法用于实体识别任务当中。使用该方法能够从未标注样本集中筛选出特征分布均匀的小样本集,并基于该小样本集使模型达到使用全量数据训练所能达到的泛化效果。在多类数据集上的仿真实验表明:本章提出的改进的主动学习方法相比于原始方法筛选出的小样本集更小更精炼并且使用该样本集能让模型取得全量数据所能达到的泛化效果。（2）针对不确定性策略样本筛选效率不足的问题,本文提出一种基于损失学习的主动学习方法,同样将其用于实体识别任务中。基于损失学习的主动学习方法分为两个部分,分别是实体识别模型和损失学习模块。使用损失学习模块对未标注样本的损失值进行预测,并以此作为依据筛选出预测的损失值最大未标注样本并标注。该方法与改进的不确定性策略相比较,仿真实验表明:使用损失学习策略筛选出的小样本集特征分布更加的均匀,使用更少的标注样本就能达到全量数据所能达到的泛化效果。（3）为了进一步提升小样本条件下的实体识别模型的泛化效果,本文提出使用预训练模型来提升实体识别模型的效果,并在此基础上提出一种改进的参数迁移策略。该方法能将BERT预模型在预训练阶段捕捉到的语义和句法特征填充到实体识别模型中,以此实现对小样本集的特征进行补充。同时针对BERT模型在微调初期模型持续震荡和损失值抖动不降的情况,提出在BERT模型参数迁移的过程中重新初始化部分层的参数。实验表明:结合预训练模型的实体识别模型能够进一步提升实体识别模型的泛化效果,并且提升幅度不小,对比使用改进的参数迁移策略的模型和原始的模型的实验结果,使用了改进策略的模型能够在一定程度上再次提升模型的泛化效果。