近些年恶意软件的变化手段在不断更新,这使得大量的用户数据受到严重的威胁。如何快速准确地对未知的程序行为进行识别是目前软件安全领域的重大挑战。传统程序动态识别技术往往基于程序系统调用层面的信息,并没有下探到更深一层的汇编指令层。程序静态识别技术通常是根据程序中的字符串对加解密算法进行识别,对更加广泛的程序行为并没有做更多方面的拓展。本文提出一种基于动静结合的程序行为识别技术。在程序静态特征方面,使用IDAPython工具提取程序中的操作码与立即数,并且对程序静态中的其他关键常量信息进行整理和分析。在程序动态特征方面,提出一种基于二进制插桩的系统调用抽取技术,针对不同类型特征的系统调用,采取不同的策略进行对系统调用信息的提取。除此之外,本文重点提出了一种基于动态汇编指令序列的语义分析技术,对汇编指令进行建模,设计汇编指令序列相似度算法,多维度地记录程序的离散特征与序列特征,结合动态信息和静态信息的优势,最后使用机器学习技术对这些信息进行训练,对未知程序进行识别。实验的特点涉及到了多领域的知识,包括二进制程序插桩、系统调用分析、汇编指令分析、序列比对、机器学习等,在汇编指令层面,提出了汇编指令的建模与序列相似度计算方法。在系统调用层面上,对数据的有效拦截与信息提取上也做了大量的尝试与创新。