集成电路的发展在过去数十年中一直遵循着摩尔定律。随着半导体制造工艺的不断进步,集成电路的工艺节点不断缩小。由于光源技术的发展落后,业界仍在集成电路制造过程中广泛采用193纳米波长光源进行光刻。光源波长与集成电路特征尺寸之间的不匹配引发了能造成光刻成像畸变的光学邻近效应。为提高集成电路制造的良率,业界提出了大量分辨率增强技术。然而在亚波长光刻条件下要完全避免光刻热点是十分困难的。光刻热点检测已成为集成电路制造过程中一项必不可少的环节。本文围绕着光刻热点检测展开了以下的研究工作。针对基于机器学习的光刻热点检测算法需要手工提取特征的问题,本文提出了一种基于VGG16的光刻热点检测算法。该算法首先基于VGG16卷积神经网络训练光刻热点分类器,然后对版图采用分类器滑窗检测法获得光刻热点概率图,最后提取光刻热点概率高的区域中心坐标作为光热点检测结果。实验结果表明,该算法的平均召回率为94.4%,精确率为23.6%,提高了光刻热点检测精度。针对滑窗检测法重复卷积运算的问题,本文提出了一种基于Faster R-CNN并结合在线难例挖掘和软性非极大值抑制的光刻热点检测算法。该算法首先采用候选区域建议网络找出版图中可能存在光刻热点的候选区域,再将生成的候选区域送入Fast R-CNN获得光刻热点置信度和边框位置。实验结果表明,该算法进一步有效地提高了光刻热点检测精度和效率,平均检测耗时为0.6 h/mm2,召回率为96.1%,精确率可达40.3%。