随着软件系统所面临的安全问题日益突出,越来越多的安全技术也随之应运而生。现阶段采取的主要手段是根据经验来被动的弥补软件安全隐患,需要强力的漏洞挖掘工具和方法来尽早发现漏洞并修复,但实际上难以确保所有的漏洞都能被发现并修复,而且随着软件的发展演化,可能还会出现新的问题。一个与传统脆弱性检测相对的思路是:根据安全需求性质生成软件系统的安全行为集,并强制软件运行在安全行为集内,从而使得在任何运行环境下,都不会出现导致安全性质被违背的情况。本文基于这个思路,对现有的安全技术进行分析总结,从环境模型学习和监控器生成两个方面进行研究,本文的主要工作包括以下几个方面:（1）当与一个要进行安全防护的软件系统（本文称之为内部系统）交互的是一个行为确定的第三方外部计算机系统时,本文利用现有的黑盒模型学习技术,学习出这个外部计算机系统的确定模型。对于一个内部系统,很难保证软件本身是不存在安全隐患的。导致软件行为异常的发生往往都是因为外部的某些操作导致的。本文通过对内部系统交互的环境进行建模,验证环境对内部系统的操作是否满足其安全性质规约,对于那些不满足的安全规约,本文利用这些规约生成一个软件运行时监控器,监控外部环境对内部系统的操作,对不安全的交互过程进行报警,来保证内部系统的安全运行。（2）对现有的黑盒模型学习技术进行研究发现,大多数学习算法的原理都是基于MAT（Minimally Adequate Teacher）框架,该框架需要目标程序是一个可执行程序,通过构造一定的输入序列,观察可执行程序的输出序列,来推断出目标程序的模型。其中存在的一个影响算法学习效率的根本性因素是目标程序的执行时间,本文通过将基于MAT框架的学习算法与目标程序的历史日志相结合,节省大量的程序执行的时间,来提高模型的学习效率。（3）当与内部系统交互的是一个行为不确定的自然环境或人时,我们很难用一个确定的模型来描述环境或人的行为,本文利用概率模型学习技术,学习出环境和内部系统的概率模型,利用这个概率模型和内部系统要满足的安全规约来生成一个概率监控器。该概率监控器实时计算系统满足安全规约的概率,当概率低于指定的阈值,监控器发出警报,提醒用户及时采取适当的措施。