随着互联网应用越来越多地融入人们的日常生活,计算机软件系统起到了日益重要的作用。但由于一些开发人员不良的编程习惯,导致互联网应用充斥着各种计算机软件漏洞,缓冲区溢出漏洞就是其中较为常见的一种漏洞形式。据统计,50%以上的网络攻击都是利用缓冲区溢出漏洞。因此,对缓冲区溢出漏洞防御技术的研究,无论在计算机网络还是信息安全领域都有着非常重要的理论和实用价值。世界各国相关的企业和科研机构,都极其重视缓冲区溢出漏洞防御技术的研究。在缓冲区溢出攻击中,攻击者可以通过劫持指令寄存器(Extended Instructions Pointer,EIP)达到控制程序执行流程的目的,其中关键的一步是寻找并修改能实现程序跳转的相关指令的内存地址,根据这一原理,本文提出了利用地址空间布局随机化(Address Space Layout Randomization,ASLR)技术来防御缓冲区溢出攻击的方法。ASLR技术可以使得程序运行所需的系统核心组件和重要对象在内存中实现随机化分布,而不是放在固定的位置。攻击者不能预知这些组件和指令的位置,因此,即使程序存在漏洞,攻击者也无法利用,大大提高了系统的安全性。本文深入分析了 Windows平台上的缓冲区溢出攻击防御技术,并基于缓冲区溢出漏洞的基本原理,开展了 Windows平台上ASLR技术的研究,主要研究工作如下:(1)调研了缓冲区溢出防御技术的研究背景,介绍了 Windows平台上ASLR技术的研究现状与发展趋势。(2)研究了缓冲区溢出攻击的原理,简单介绍了 Shellcode的原理和构造方法。根据缓冲区溢出漏洞的原理,研究了 Windows针对缓冲区溢出攻击的防御技术,并对其局限性做了阐述。(3)通过研究Windows下ASLR技术在堆栈、堆、PE文件、进程环境块(Process Environment Block,PEB)、线程环境块(Thread Environment Block,TEB)这几个方面的随机化原理,分析说明这种防御技术可以使系统各模块的内存地址随机化分布,从而能够防御Ret2libc这类利用固定加载地址漏洞的攻击。(4)对基于ASLR的缓冲区溢出防御技术开展系统测试,就这种防御技术的可靠性及其对性能的影响做了分析与评估。实验结果表明,Windows平台上的ASLR技术能以较小的额外开销实现地址随机化,有效抵御了缓冲区溢出攻击,保障了系统安全。