为了对抗软件逆向工程,当前很多商业软件中的敏感代码都会被代码虚拟保护技术保护起来。代码保护技术会将程序的原始机器指令转换成只有虚拟机才能解释执行的虚拟机字节码,对于每个被保护的应用程序而言,这些虚拟机字节码和虚拟机都是唯一的。经过虚拟化保护的程序的运行开销会增加,并且很难被维护和调试,因此代码虚拟保护技术同样可被恶意软件用来逃脱杀毒软件对其程序中恶意代码的检测。本文中,我们对代码虚拟化保护器做了一个深入的研究,提出一个可简化虚拟机代码的通用反混淆方法。我们的方法首先从程序中精确地定位出字节码的译码解释流程,并将程序中嵌入的虚拟机划分为若干处理函数,随后将处理函数中与虚拟机的状态更新相关的指令提取出来,对齐进行优化并翻译成易读的中间语言,便于逆向工程师进行分析。我们开发了一个叫“夜莺”的二进制翻译工具,可自动地对Intel x86和x64二进制程序进行反混淆。我们使用了三种不同的商业代码混淆器对一组开源的反代码混淆测试程序进行混淆,结果显示本文的方法可有效地简化虚拟机保护过的程序,实现反混淆。