软件安全漏洞已经成为网络安全的主要问题之一，尤其是近几年来互联网针对软件漏洞发生的安全事件越来越严重，不管是在国家战略层面还是在社会安全层面，软件漏洞的检测和防护都处在极其重要的位置。缓冲区溢出漏洞是软件的主要威胁之一，随着网络技术的快速发展，软件应用程序的开发和普及也越来越广泛，但是数量上的突飞猛进并没有带来与之相对应的安全层面的质量保证，导致缓冲区漏洞引发的安全事件日益增多。因此，如何有效的检测和防护缓冲区溢出漏洞一直以来都是安全领域的一个非常重要的课题。本文在详细分析了缓冲区溢出攻击的原理和漏洞利用技术的基础上，针对二进制程序的漏洞挖掘问题，提出了一种基于遗传算法的Fuzzing漏洞检测技术，结合缓冲区溢出漏洞的特征，构造具有很好的完备性和较高覆盖率的测试用例，通过静态分析技术，智能的引导测试数据逻辑到二进制程序的脆弱语句部分，使其能够快速的命中缓冲区溢出漏洞。基于漏洞挖掘的准确性和完备性，本文进一步提出一种基于AES加密算法的缓冲区溢出漏洞代码保护方案。对敏感数据区域进行加密是缓冲区溢出攻击防御技术的主要手段，但是受限于一般加密算法的复杂度和安全性的要求其效果并不理想，而AES加密算法具有更长的密钥可以明显提高系统的安全性，并且算法实现简单，迭代次数也可以得到较好的控制。依据该方案实验结果表明，在保护缓冲区安全区域AES加密算法具有更高的安全性和较低的系统开销。