随着互联网、大数据、云计算、物联网等技术的火热发展,Linux操作系统的应用越来越广泛。操作系统内核是操作系统的核心,提供了操作系统的核心功能和安全根基。因此,提前发现Linux内核的漏洞并进行修补至关重要。目前,针对Linux内核漏洞挖掘的一个重要方法是针对其系统调用接口进行模糊测试。本文通过对操作系统内核系统调用接口模糊测试技术进行研究,发现现有方案在产生系统调用测试用例方面存在质量和效率的不足,其中一个重要原因是没有分析、应用好系统调用之间的多种依赖关系。为了缓解目前存在的这些不足,本文提出了基于系统调用间依赖的Linux内核模糊测试技术。首先,通过静态分析技术,提取出系统调用间更完整的内核全局变量依赖信息;然后,通过基于系统调用间依赖的模糊测试技术,提高对系统调用间依赖的利用效率,从而提升模糊测试的效果。针对原型系统的实验结果表明,本文提出的关键技术和创新点具有一定的应用价值,能够获得更完整的Linux内核系统调用间基于内核全局变量的依赖信息,能够提升Linux内核系统调用接口模糊测试的代码分支覆盖数量和Bug发现数量。本文主要的工作和创新点如下:(1)分析了现有操作系统内核系统调用接口模糊测试技术在多种系统调用间依赖分析和应用方面存在的问题,主要为两个方面:一是现有基于内核全局变量的系统调用间依赖分析技术存在较多漏报的问题,主要原因是未分析内核中大量存在的间接函数调用导致的依赖。二是模糊测试过程中对多种系统调用间依赖信息的分析和应用存在问题,主要由于动态依赖分析算法未考虑系统调用间依赖的特性,表示和融合多种依赖信息时未充分应用不同依赖信息的特征,基于依赖信息指导测试用例生成和变异的效率不够等原因。(2)提出了新型的基于内核全局变量的系统调用间依赖分析技术,缓解了现有方案分析结果存在较多漏报的问题。实现了静态分析原型系统Depend Analyzer,其中通过加入基于函数类型匹配的间接函数调用分析方法,获取了Linux内核无漏报的函数调用信息,进而得到了更完整的内核全局变量依赖信息。相比于有关方案Moon Shine,Depend Analyzer分析的依赖结果更为完整:对于存在366个系统调用的Linux内核,Depend Analyzer比Moon Shine多发现66组(多28.07%)存在依赖的系统调用。(3)提出了新型的基于系统调用间依赖的模糊测试技术,缓解了模糊测试过程中对系统调用间依赖信息应用效率不够的问题。基于syzkaller优化实现了模糊测试原型系统Dependkaller,其中优化实现了基于系统调用间依赖特征的动态依赖分析技术和多源依赖表示和融合算法,并基于系统调用间依赖信息更高效地指导测试用例的生成和变异,提高了针对Linux内核系统调用接口模糊测试的代码分支覆盖数量和Bug发现数量。相比于现有较完善的Linux内核系统调用接口模糊测试方案syzkaller,加入和不加入Depend Analyzer分析结果的Dependkaller进行模糊测试的代码分支覆盖数量和Bug发现数量都更多:当测试的代码分支覆盖数量平稳后,不加入内核全局变量依赖信息的Dependkaller相比原始的syzkaller,代码分支覆盖数量提升了9.12%,多发现9个(28.16%)Linux内核的Bug;加入内核全局变量依赖信息的Dependkaller相比原始的syzkaller,代码分支覆盖数量提升了12.06%,并多发现了16个(50.00%)Linux内核的Bug。