晶体是材料学领域中的一种重要材料,其性能与内部质点排列的规则程度有关,偏离规则状态排列的点阵结构就是晶体缺陷。高分辨率透射电镜（High Resolution Transmission Electron Microscope,HRTEM）图像是晶体缺陷研究的一种重要数据,反映了晶体内部质点排列的微观结构。为了将存在某些缺陷的异常晶体图像与正常晶体图像区分开来,需要对晶体图像进行异常检测,以便后续缺陷分析任务的开展。深度学习相关理论与技术在传统的图像处理领域取得了巨大成就,但相关技术在HRTEM晶体图像异常检测中的应用还比较少,本文重点研究基于深度学习的HRTEM晶体图像异常检测问题,提高检测性能。论文的研究内容和主要创新如下:提出了一种基于可选择卷积核网络（Selective Kernel Networks,SKNet）的HRTEM晶体图像异常识别算法。为了适应不同尺寸异常区域的检测,算法选择SKNet作为基础网络进行改进,利用其可变尺寸卷积核提高算法对尺度的鲁棒性。针对SKNet中数据压缩造成的通道与权重对应关系丢失问题,算法将原网络中的压缩-激励模块（Squeeze and Excitation Block,SE Block）替换为高效通道注意力模块（Efficient Channel Attention module,ECA module）,在不降低维度的情况下实现了跨通道信息的交互。此外,算法使用焦点损失函数（Focal Loss）替换原网络中的交叉熵损失函数（Cross Entropy Loss）,增强了算法对于困难样本的分类效果。实验结果表明,与原始SKNet网络相比,所提算法在正常和异常类别上的平均正确率提高了3.9%,在异常样本类别上准确率提高了1.5%,召回率提高了5.2%。进一步的,针对正常晶体图像和异常晶体图像样本不平衡的问题,论文研究了半监督晶体图像异常检测方法,提出了一种基于分块支持向量描述（Patch Support vector data description,Patch SVDD）的HRTEM图像异常识别算法。首先,利用Cut Paste方法构建伪异常样本,与正常样本进行对比学习,提高算法对正常样本与异常样本的分辨能力。其次,改进了Patch SVDD的特征提取模块,将提取到的浅层特征与深层特征融合得到最终特征,增加了特征中携带的描述信息,提高了检测效果。最后,针对晶体边界区域造成的误检问题,利用Deep Lab V3+对晶体图像进行分割,通过将非晶体区域的异常分数置零来排除边界区域对检测结果的影响。实验结果表明,与原始Patch SVDD相比,所提算法的AUROC值提升了8.1%,提高了检测性能。