本文分析了无线传输层安全协议——WTLS协议,阐述了其在WAP中的应用背景及其提供的加密、鉴权以及数据完整性等服务。在研究了其层次化协议结构及各子协议的功能和工作流程的基础上,设计了将该协议独立应用于移动Ad Hoc环境下的方案。针对移动Ad Hoc环境的动态拓扑、对等性、自组织性、有限的安全性等特点以及由此造成的对通信安全的制约,本文着眼于WTLS协议所能提供的传输层安全保障,提出了对协议进行改进的方案:包括在P2P环境下的连接管理方式改进以及优化握手方式改进,并就机密性、完整性、可用性及不可否认性等多方面论述了应用该协议所能提供的安全保障。基于对该协议应用的性能分析需要,本文利用OPNET仿真平台,对协议行为进行建模和分析,在此基础上按照网络场景、节点及进程这三个层次分别建模,并给出了其中关键加密操作及协议进程中状态转移的实现代码原型。最后给出了在该平台上搭建的仿真环境的实现,并对两个节点的简略模型以及多节点的完整模型分别进行了性能分析。