在互联网日益发达及全球信息化不断推进的今天,以Internet为核心的网络空间已经成为了国家重要的战略资源,受到了各国的高度重视。尤其在2013的年披露的斯诺登“棱镜门”事件之后,国际社会和普通公众更是对网络安全空前的关注。受利益驱使,网络渗透攻击者悄无声息地入侵着各种网络系统。如何对网络渗透攻击进行分析和检测,并制定有效可行的网络安全策略,成为了国内外专家和学者所关注的重要课题。网络渗透攻击作为黑客入侵的一种新型综合型攻击手段,给政企网络的信息安全都带来了巨大的危害。已有的评估手段和防御措施的研究显得相对滞后,并且目前的网络渗透模型仅局限于形式化描述,缺少了量化评估。本文针对上述急需解决的问题,对渗透攻击模型和渗透攻击检测两个方面进行了系统的研究。(1)针对网络渗透攻击模型缺乏对渗透的综合性评估和对渗透成功概率量化的问题,本文提出了一种新型的渗透攻击模型,通过加入攻击模式和攻击者自身的能力等综合性元素全面地阐述渗透攻击的整体性。其中,新型渗透攻击模型将网络渗透攻击的关键技术分解和归类,总结其特征,采用状态变迁策略模拟渗透过程的攻击路径。在此基础上,提出Markov数学模型对网络安全性进行量化评估的方案。(2)针对网络渗透攻击的检测缺乏检测的时效性和渗透攻击取证困难的问题,本文提出一种基于虚拟受害主机的启发式检测方法。在检测渗透攻击环节中主动模拟执行恶意程序,通过虚拟受害主机群真实地还原攻击环境,从而能够实时地获取攻击证据。最后,通过典型的渗透攻击仿真实验模拟攻击场景,验证了本文所提出的渗透攻击模型有效性和渗透检测方法的可行性。结果表明,基于前端启发式检测模型能够准确地刻画攻击过程,直观地量化攻击,并且可以高效地检测渗透攻击在网络中的执行过程。