Peer-to-Peer(P2P)覆盖网络架构自被提出以来就备受关注,但由于网络地址转换(Network Address Translator,NAT)设备的出现使得节点之间难以直接通信。同时,P2P网络架构分散与自组织的特点,也使整个网络易遭受安全攻击。为了保证P2P网络内节点的安全、顺畅、高质量通信,本文对P2P穿透策略与安全通信协议展开研究,改进了传统穿透策略在递增型对称NAT的穿透效果以及传统P2P通信协议的安全性能与通信质量。首先,本文对P2P网络架构展开研究,给出了P2P架构与C/S架构、结构化架构与非结构化架构的综合性能对比。基于以上研究分析,本文提出一种面向会话查找优化的网络模型,并给出时间复杂度、空间复杂度、节点负载评价。针对P2P通信的NAT穿透问题,本文对P2P穿透策略展开研究。研究工作分析了传统的P2P穿透策略的不足,综合NAT类型、网络访问量、网络拓扑三项影响因素对传统的P2P穿透策略进行改进,重新划分NAT类型、构建网络访问量模型、分场景分配通信地址与NAT穿透方法,提出了一种基于泊松模型的P2P穿透策略。实验测试结果表明,论文提出的P2P穿透策略相比较传统策略能有更准确的端口预测、更高的穿透率与更低的成本开销。针对P2P通信的安全问题,本文对传统的P2P通信协议展开研究。研究工作阐明了现有的P2P通信协议的不足,借鉴DTLS协议的设计思想,提出了一种适用于P2P网络的安全通信协议,并建立数学模型描述了该协议中状态的转换,设计了密钥协商、签名认证、认证加密算法,给出该协议详细的报文格式与通信流程。实验测试结果表明,论文提出的P2P安全通信协议相比较传统协议能在更短的时间内建立P2P连接、有更高的加解密计算效率。理论分析证明,该P2P安全通信协议能够有效保障通信信道的安全性。最后,本文将上述实现的P2P穿透策略与P2P安全通信协议有机结合,应用在VPN之中,设计了穿透与安全保障的P2P-VPN原型系统。系统测试结果表明,该系统能够保障P2P通信具备良好的NAT穿透性与通信质量,整体性能满足预期目标,但是在随机型对称NAT的穿透方面还有待研究。