近年来,受国家级支持的高级持续性攻击（Advanced Persistent Threat,APT）活动,严重威胁各国各行业的安全。在与APT攻击的对抗博弈中,攻击者为规避安全防护系统、安全审计设备的围堵与溯源,在复杂网络攻击中引入隐蔽信道作为恶意软件命令与控制（Command&Control,C&C,C2）的关键技术。隐蔽信道构建的命令与控制隧道隐蔽性强,危害性大,给网络安全领域带来了严峻的挑战。本文针对网络隐蔽信道检测关键问题开展研究,主要研究内容和创新点如下:首先,归纳整理目前公开隐蔽信道技术资料,分析隐蔽信道构建技术中的共性方法与存在问题,在此基础上进行深入分析提炼特征与隧道传输模式,为后续的相关研究奠定基础。其次,在隐蔽信道的盲检测方面,针对目前隐蔽信道的盲检测算法检测覆盖率低、检测种类少、多隐蔽信道并存的混合型应用环境中检测成功率低等问题,基于目前的隐蔽信道的技术模式和协议机制综合分析,提取基于行为和统计的综合性特征信息,并通过集成学习的异常行为检测方式进行检测分类。经实验验证,本文所提出的方法具有较高的检测率与异常分类效果,并具有一定落地应用能力。最后,目前APT攻击中的C2服务器,多以隐蔽信道作为通信基础。针对新型隐蔽通信技术层出不穷,而APT的隐蔽信道样本难以形成规模性训练数据样本等问题,提出基于迁移学习的隐蔽信道检测技术,通过基于开源数据集,迁移学习训练深度神经网络模型检测红队渗透数据和C2数据。实验结果验证了开源隐蔽信道工具和C&C数据通信之间的原理相似性与迁移可行性。在多数据集上进行的实验结果表明本文提出的方法在跨域隐蔽信道数据检测上相较于不使用迁移学习方法的检测率提升了 12.6%。综上所述,本文从网络空间中高对抗性的安全威胁出发,针对隐蔽信道的盲检测和APT隐蔽通信技术展开研究,通过实验论证提出的基于集成学习的隐蔽信道盲检测算法和基于迁移学习的APT隐蔽信道检测算法的可行性和有效性。这些研究的技术与方法,在提升网络安全的对抗技术领域具有重大价值和意义,在保障国家关键基础设施、保护重要部门的关键信息数据上有重要作用。