随着现代化和自动化的发展,集成电路（Integrated Circuit）在系统的控制和运行中已成为一个至关重要的组成部分。近年来,半导体行业积极采用无晶圆厂芯片制造模式,即通过第三方供应商制造设计,攻击者会利用这个漏洞,在芯片中植入硬件木马,破坏芯片的安全。且这种方法植入方式具有隐蔽性和侵入性,因此很难保证制造的芯片产品是100%安全的。在此背景下,如何保障底层硬件的安全不遭受损害成为热点话题,越来越多的研究学者开始投入到硬件木马的研究中,并且提出了许多检测方法,主要包括破坏性工程、边信道分析、逻辑激活等检测方法。但这些检测方法都存在缺陷,如对大规模的电路检测效果不理想、对检测设备要求极高、容易受到一些工艺噪声的影响、需要原始电路作为对比等。本文针对常规硬件木马检测方法中存在的问题,将硬件电路中门级网表的线网特征与不同的机器学习分类方法相结合,提出基于机器学习的门级网表硬件木马检测方法。该方法根据线网特征对电路中的正常线网和木马线网进行分类,将检测待测电路中硬件木马的问题转变为对待测电路中线网的二分类问题。首先将硬件木马的检测重点放在门级网表阶段,选用不同基准测试电路,通过分析电路中木马线网和正常线网之间不同的特征,提取出特征数据集。然后根据数据集的规模大小,采用不同的机器学习方法。最终根据特征数据集训练分类模型,对需要检测电路的线网进行分类,达到检测硬件木马的目的。实验结果表明,通过将硬件木马线网特征与机器学习方法相结合,能较好地检测出硬件木马,且提高了线网的识别准确率。论文的研究内容为以下三个方面:（1）阐述硬件木马的相关概念、基本结构及主要分类;研究常规的硬件木马检测方法,并对每种检测方法的优缺点进行归纳总结;分析集成电路在门级网表阶段硬件木马电路和正常电路的不同线网特征,确定研究方向。（2）针对小样本电路数据,提出了一种基于粒子群优化支持向量机（Particle Swarm Optimization-Support Vector Machine）算法的检测方法。首先根据选用的基准电路,对木马电路和正常电路的线网特征进行分析,提取出8维特征向量,然后利用SMOTE（Synthetic Minority Oversampling Technique）过采样算法对提取的特征数据集进行预处理,改善数据集类别不平衡问题,接着用PSO优化算法寻找SVM的最优参数,以获得较高的识别准确率,最后利用该分类器检测待测电路,识别硬件木马。最终实验结果表明,使用粒子群优化支持向量机算法能够较好解决小数据样本中硬件木马的识别问题,改善了整体电路线网的识别正确率。（3）针对大规模电路数据,提出基于深度森林（Deep Forest）算法的检测方法。首先根据选用基准电路门级网表特征,增加线网特征,提取出9维特征向量,然后增加多粒度扫描过程,使用不同的滑动窗口对输入的线网特征进行提取,产生不同维度的特征实例增强线网特征之间的相关性,并将最终滑动窗口输出的特征向量作为级联森林的输入向量。在级联森林中,通过多个不同类型的森林分类器对输入特征向量的特征信息充分学习,提高模型的整体性能。最终实验结果表明,使用深度森林算法能够较好解决大数据样本中硬件木马的检测问题,改善了整体电路线网的检测准确率。