基于机器算法,准确高效地处理电力文本数据,是当前研究热点。传统电力文本的处理对象,主要针对字符数目较少的缺陷记录,处理难度及应用范围有限。随着人工智能技术的发展,希望机器算法依据语义相似度检索历史故障文本,及精确识别变压器故障长文本信息。为实现上述目标,本文在通用中文BERT（Bidirectional Encoder Representation from Transformers）语言模型的基础上,对变压器故障文本信息的机器挖掘工作进行了如下研究。首先,分析了电力文本输入BERT模型的数据结构。探究了 BERT模型的各层网络分布及作用。掌握了 BERT模型对各字符向量融合全文语义的编码过程。并将最终生成的文本全局语义向量,作为后续具体电力任务的处理对象。构建了本文的算法运行环境,在机器识别电力信息类别任务上,对比了传统word2vec与本文BERT两种语义编码方法的识别指标。发现BERT模型并行处理文本数据的语义编码方式优于传统word2vec模型11.25%,比通用中文BERT最高提升了 5.16%,且可以识别出同音不同形的错字信息的类别。然后,在检索历史相似故障文本任务上,对BERT模型生成的全局语义向量进一步研究。探究了 BERT模型计算和调整故障文本语义向量相似度的方法。发现在通用中文BERT参数下,文本间核心故障语义虽相近,但编码后的语义向量存在较大差异,会影响模型的检索效果。通过设计正反样本数据集,提高了 BERT模型辨别故障语义相似匹配指标F1值25.6%～30%。对比了不同全局语义向量提取方式下的模型编码效果,发现通过加权思想调控全局向量的方法最佳。在优化后的BERT模型参数下,对782份历史故障向量集合进行了自动聚类分析,得出6个最优聚类文本向量簇,及各簇中心向量及数量分布情况,实现了机器算法自动聚类相似故障表述文本的功能。构建了一套用于变压器相似历史故障检索的算法框架,提高了检索效率50%左右。最后,依据后期专家标注故障文本工作,将原先机器算法自动聚类出的6种类别扩展到10种具体故障部件及现象标签。为拟合各故障描述文本与其故障标签的对应关系,提出了 Kbert（BERT+K-Means++）算法,并进一步优化了BERT模型参数;其中,发现部分单一文本可能存在不止一种故障现象,采用K-Means++算法提取和最大概率值相近的全部标签作为识别结果,使识别结果更为全面;相比原有单一 BERT识别模型的识别F1值提高1.1%-3.5%。对拟合样本数量不均,可能造成文本数量少的故障标签拟合效果不佳问题,提出了动态修正拟合损失值权重的方法,将识别指标F1值提高了 2.6%至8.1%。Kbert比当前常用的Bi-LSTM+Attention算法识别指标高29.8%至37.2%;