反病毒虚拟机技术是当今反病毒领域的核心技术之一，作为病毒检测的辅助手段被广泛应用。由于理论和技术上的缺陷，目前的反病毒虚拟机对系统运行机制的模拟不足、扩展能力差，对于变形病毒解密还原过程的模拟能力也相当有限，并且只能进行已知病毒的检测。本文选择少有人研究的虚拟执行模型和反病毒虚拟机运行流程作为研究对象，通过深入的分析和研究指出各项反虚拟机技术的根源，并提出对虚拟执行模拟和虚拟机运行流程的改进，在此基础上，还对反病毒虚拟机设计实现过程中的重要问题进行了分析和讨论。 本文的主要贡献如下： 1.提出一种改进的虚拟执行模型。在对传统模型总结归纳的基础上，通过改变指令操作对象的虚拟方式，从根本上解决反病毒虚拟机扩展能力差的问题。 2.对反病毒虚拟运行流程进行改进。通过对客户程序进行全程的虚拟执行，提升反病毒虚拟机对病毒解密还原过程的模拟运行能力；采用静态特征码扫描和行为分析相结合的病毒检测方式，增强对未知病毒的检测能力。 3.对常见的反虚拟机技术进行分析和总结，结合对虚拟执行模拟和反病毒虚拟机运行流程的已有改进，给出反病毒虚拟机对异常处理和多线程运行机制的模拟方案 4.在对windows操作系统PE程序加载和执行过程进行大量反汇编研究的基础上，对反病毒虚拟机在运行过程中如何进行文件映射和初始化、如何协调指令翻译和指令执行任务、如何准确进行特征码扫描和行为数据采集等问题进行讨论，从而保证虚拟执行结果的正确性，提升虚拟执行的效率，增强病毒检测能力。