软件迷惑技术是指通过对代码进行各种形式的语义等效变换,以去除有助于程序理解的信息,使其变得尽可能模糊、晦涩,从而达到防止软件盗版、保护知识产权目的的一种防逆向工程技术。该技术在保护重要数据和算法、延缓软件破解时间等方面具有重要的应用价值和广泛的应用前景。本文的主要研究内容包括:(1)迷惑理论研究:给出了两种特殊的可被迷惑的程序类,软件算法迷惑器和框架迷惑器的相关定义,以及不存在通用的算法与框架迷惑器的证明;(2)数据编码抵御能力分析:变量编码是一种数据迷惑技术,从本质意义上来讲是一种散射运算。分析了线性编码、混合编码、仿射编码、以及异或编码的抵御能力;(3)基于Java语言的调用流迷惑技术:通过对Java方法的签名(参数类型、数量、返回值类型)进行统一封装,将不同类中的方法交叉合并到某个接口的扩展子类方法当中,引入对象别名机制,阻止对程序进行静态分析;(4) Java字节码指令迷惑技术:将字节码指令按照堆栈操作方式分组,同组内的指令间构成一对多的映射关系,以代码自定义属性的方式将映射规则存储到class文件中。在虚拟机内部嵌入解译器,位于字节码验证器的后端,解译器根据映射规则还原指令的运行时语义。