软件是信息系统的重要组成部分,其庞大规模和复杂构架导致软件漏洞的存在不可避免。软件漏洞的存在严重影响了网络空间的安全性,不仅危害国家战略安全也影响个人的隐私和财产安全。研究软件漏洞分析和利用相关技术,可有效掌握软件的安全缺陷并进行针对性防护,为网络空间安全提供重要支撑。随着人工智能在多个关键领域中取得重要成果,该技术在各个学科领域的应用成为当前研究热点,不仅为当前信息化大数据时代提供强力支撑,也为解决软件漏洞分析利用难点问题提供了新思路。因此,研究智能化自动化的软件漏洞分析和利用中的关键技术具有重要的学术价值和现实意义。论文围绕软件漏洞自动分析利用智能化自动化过程中的关键技术展开研究。通过梳理发现,在崩溃用例去重方面,现有针对崩溃用例逐个分析聚类的去重方法不仅准确率低下而且速度较慢,无法满足大量崩溃用例去重需求;在崩溃用例约减方面,传统二分搜索方法无法有效利用崩溃用例相关信息导致约减效率低下;在漏洞自动分析方面,现有漏洞触发点定位方法无法有效利用执行迹的序列信息导致定位准确率低误报率高;在漏洞自动利用方面,当前路径驱动用例生成过依赖随机方法导致生成效率低下。据此论文以互信息统计量、神经网络及神经网络可解释性为技术支撑,对如何提升软件漏洞自动分析效率、扩展软件漏洞利用代码生成能力等问题进行了深入研究。本文的主要工作和创新包括:1.提出了基于互信息的崩溃用例快速聚类与去重方法,将传统以逐个崩溃用例为分析对象的聚类转变为以基本块元组为分析对象的聚类,实验结果表明,该方法显著提高了去重准确率和速度。2.提出了基于注意力机制的崩溃用例约减方法,搭建了可处理长输入的神经网络构架,通过注意力层计算POC各个分量对于崩溃的贡献程度,为约减提供有效指导,实验结果表明,与传统方法相比,提高了崩溃用例约减率。3.提出了基于互信息和注意力机制的漏洞触发点定位方法,通过互信息筛选与漏洞触发关系较大的基本块,并利用带注意力机制的神经网络实现精准的触发点定位,实验结果表明,提高了漏洞触发点定位准确率。4.提出了基于先决路径和关键字段的路径驱动用例生成方法,将传统方法的功能路径直接驱动细化为多个先决路径的顺序驱动,实验结果表明,该方法有效提升了路径驱动用例生成速度。