互联网上丰富的开源代码和第三方组件能够协助软件开发者快速高效地完成开发任务,同时极大地解放了生产力和创造力。正因如此,第三方代码在软件工程中被广泛地使用,甚至无处不在。在很多情况下,即便无法获得软件的源代码或缺少版权声明,我们也想了解软件中第三方代码的复用情况,进而实现知识产权保护和脆弱代码监控等重要应用,二进制代码相似性检测就是为了完成这类任务。本文通过对现有工作的研究发现,由于突破了传统方法在大规模检测任务中遇到的性能瓶颈,基于神经网络的二进制代码相似性检测技术正成为研究的热门,但这类技术仍然存在诸多问题。本文对代码相似性检测的关键技术展开了研究,提出了一种基于神经网络的跨架构二进制代码的相似性检测方法。该方法首先为不同指令架构的二进制代码构建了一种跨架构的两级中间表示;然后利用一种句嵌入模型,从基本块级的中间表示中学习基本块的语义嵌入向量,将该向量作为基本块的相似性特征;接着利用一种图嵌入模型,从函数级的中间表示中学习整个函数的嵌入向量,将该向量作为函数的相似性特征;最后利用函数嵌入向量间的余弦距离来度量函数间的相似性,并结合函数调用图为代码间的相似性判定提供参考。本文的主要研究内容和创新点如下:1.针对现有代码相似性综述尚未涵盖二进制代码相似性研究的最新成果,也未能突出该领域的发展方向的问题,本文提出了一种依据关注信息不同对二进制代码相似性检测技术进行分类的方法,并特别研究了基于神经网络嵌入的二进制代码相似性检测技术。2.针对二进制代码在指令架构上的特异性问题,本文研究了VEX和CFG两种跨架构的中间表示的特性,提出了一种跨架构二进制代码的两级中间表示的构建方法,实现了不同指令架构二进制代码的统一表示,降低了检测方法对指令架构的依赖。3.针对代码相似性特征的提取过程容易引入人为偏见的问题,本文研究了将自然语言处理的表征学习模型用于程序语言表征学习的相关技术,提出了一种基于句嵌入模型的基本块语义嵌入技术,实现了基本块级的代码相似性特征的无监督学习。实验结果显示,与采用人工定义的基本块特征的代码相似性检测系统相比,该技术能够将系统的准确率至少提高3.2%。4.针对现有图神经网络对函数控制流图的信息利用不足的问题,本文研究了消息传递网络的概念,改进了现有图神经网络模型并将其用于函数相似性检测任务,提出了一种基于图神经网络的函数CFG嵌入方法。实验结果表明,改进后的检测系统的准确率至少提升了1.6%。