随着IP业务的迅速增长,IP网络上应用的不断增加,IPv4协议本身暴露出越来越多的不足,如稀缺的IP地址,力不从心的服务质量,以及日益突出的安全问题等,使得IPv4已经不能适应网络的发展。1992年IETF提出了IPv6版本的协议,旨在重点解决IP地址稀缺的问题。经过多年的发展,IPv6技术逐渐成熟,使IPv6成为一项极具吸引力和有发展潜力的技术。目前IPv6技术还不是尽善尽美,IPv6设备的性能还不及IPv4设备的性能,仅靠IPv6还解决不了IP网的商业模型问题、安全问题。其中,安全问题是一个至关重要的环节,解决不了安全问题将会极大地阻碍IPv6的商业应用。建立在IP技术基础上的虚拟专用网(VPN,Virtual Private Network)正快速成为新一代网络服务的基础。VPN的技术分为两类,一类基于应用的安全性,如IPSec VPN技术,侧重于安全保密,融合了加密、认证、密钥管理等密码技术;一类基于应用的简易性,如MPLS VPN技术,用户配置容易、管理简单、应用简易。首先,本文对IPSec在IPv6网络中的应用进行了深入的研究,对于IPSecVPN,分析了IPSec协议的体系结构、工作模式、通信流程。SSL VPN也是当前主流的VPN接入技术,它和IPSec VPN具有类似功能特性,都可以为IPv4和IPv6服务,但两者也存在很多不同,文章对这两种技术做了比较。然后,本文分析了ipsec-tools系统结构,用ipsec-tools工具对IPv6网络中的IPSec VPN做出了实现,论证了IPSec在IPv6下实现的可能性。考虑到IPv4/IPv6过渡的长期性,本文还分析了6to4隧道的安全性,对IPSec对6to4隧道的保护给出了详细的理论分析,并用ipsec-tools工具实现了6to4安全网关。接着,由于CGA技术的优势和IKEv1的缺陷,本文提出了一种基于CGA扩展头的新型的安全协议,用来简化实现IPSec IKE,从而建立IPSec需要的SA。介绍了CGA协议的各个部分,如CGA格式和参数,CGA的生成和验证以及CGA的签名,并设计了CGA扩展头以及各个CGA选项和CGA负载,给出了它们的数据结构实现。最后,本文介绍了新型安全协议实现需要的几种关键技术,分析了系统的应用场景,详细设计了系统的通信流程和部分功能模块,介绍了部分关键函数和代码,分析了系统的安全性,对系统的基本功能进行了测试,并提出了需要进一步解决的问题。