本文分别针对3G和MANET两种类型的无线网络的相关协议进行分析，分别提出改进的安全协议并利用串空间模型理论对改进协议的安全性进行证明。　　本文的研究内容分为三个部分：　　一是针对3G网络中的认证和密钥协商协议进行安全性分析，指出3G标准的UMTS-AKA协议存在的安全缺陷；进一步分析了Ka-Kyung[23]等人提出的增强型UMTS T-AKA协议，指出该协议不能实现安全目标，攻击者可以伪冒合法用户获取网络服务，并给出了伪冒用户的攻击步骤；进而在原3DPP规范的基础上提出了改进的UMTS AKA协议，该协议能够实现移动台、服务网络与归属地两两之间的双向认证，确保用户与服务网络分别获取正确的共享密钥，并保证密钥的新鲜性；然后应用串空间模型理论及认证测试方法对改进协议的密钥秘密性和双向认证的正确性予以证明。　　二是研究MANET网络基于按需源路由协议的安全路由方案。当前安全路由研究方案都无法抵抗隐式虫洞的形成，需要设计安全的数据传输协议抵抗由虫洞及任何合谋攻击所造成的选择性丢包攻击。目前的研究现状是将路由发现与数据传输割裂为两个相对独立的部分进行设计，使得安全路由的研究陷入片面追求绝对安全性的瓶颈而使设计变得越来越复杂，MANET网络的通信效率降低。本文提出的MRST通信协议使用自验证的公钥方案，不需要复杂的证书系统，提高了公钥验证的效率；在路由阶段扩展Schnoor签名方案实现节点间的相互认证；在数据传输阶段采用hash链验证和应答机制，实现对丢包行为的检测。最后利用串空间模型理论及认证测试方法对MRST协议的安全性进行了证明。通过仿真证明，在有敌手攻击的环境下，MRST协议与SRDP-MARS协议相比，丢包率和控制信息占比均有所下降。　　三是研究MANET网络基于洋葱结构的匿名路由方案。目前基于洋葱结构的匿名路由协议计算量和延时较大，而非洋葱结构的新型匿名协议普遍无法抵抗全局跟踪者从而无法实现路由匿名。本文提出的ARSC匿名路由协议使用基于身份的公钥系统构造假名系统，轻便地实现了身份匿名；使用陷门消息、单轮洋葱结构和其他细节上的处理实现路由匿名、拓扑匿名，实现关系的不可链接性；匿名数据传输部分通过相邻节点间对密钥和端到端对密钥对数据秘密性做双重保护，并使源节点在每个数据传输包中都随机秘密指定一个中间节点作为检测节点验证hash链值，从而检测该路由上是否存在丢包攻击。最后，利用串空间模型理论及认证测试方法对ARSC协议端到端认证的正确性进行了证明。通过仿真证明，在有敌手攻击的环境下，丢包率大幅度下降。