P2P网络(Peer-to-Peer Network)是建立在Internet之上的一层逻辑覆盖网络,其特点非常显著,包括网络节点非中心化、可扩展性、健壮性、高性价比、负载均衡、隐私保护、用户行为自由和信息内容丰富等。随着Internet的广泛普及、网络带宽的大幅增加以及基于Internet的端系统计算能力的迅速增强,P2P网络应用模式已经逐渐兴起并成为IT行业和学术界应用和研究的热点,财富杂志更是将P2P列为影响Internet未来的四项科技之一。目前,P2P网络的应用带给人们方便的同时也带来一些问题,P2P网络流量占据Internet网络流量的70%以上,其近乎对称的网络流量模式挤占有限的网络带宽造成网络的拥塞,更严重的问题是通过P2P应用发起的网络攻击,很容易造成Internet网络的瘫痪。P2P网络研究非常广泛,主要包括网络拓扑、网络搜索、安全与可靠性、分布式数据存储、大规模并行计算和应用层组播等。随着对P2P网络的深入研究,发现P2P网络呈现出复杂网络的网络节点度幂律分布、小世界和无标度等特性,这些特征使得复杂网络成为研究P2P网络的工具。复杂网络与数学、计算机科学、非线性科学等诸多学科交叉,已经成为当前国内外非常热门的学科之一。通过复杂网络进行网络实证分析与建模、网络结构与行为机制仿真和研究网络控制机制。本论文主要对P2P网络资源优化和若干安全问题进行了研究,以复杂网络为基础,详细分析了P2P网络的拓扑结构,包括应用层的网络结构和物理层的网络结构,并且对其相互影响关系进行性能研究。根据P2P网络拓扑结构特点,对P2P网络资源搜索算法进行了研究。在此基础之上,本论文还对P2P网络安全开展研究,包括P2P网络信任模型和P2P网络流量识别检测,并且取得了很好的效果,从而形成完整的P2P网络的理论和应用方案。本论文的创新工作可以归纳如下：(1)对于树形等级网络,提出了两种优化方案,即Same-layer (S-L)方案和Cross-layer (C-L)方案。所提优化方案是从复杂网络的角度出发,关注于底层物理结构和应用层业务的关系。利用复杂网络理论,将time to live (TTL)的概念引入到物理层中,研究物理层网络的拓扑结构对应用层的P2P网络的资源利用率的影响。我们所提出的优化方案详细地讨论了基于完全树的等级网络结构优化方法,定性地分析了所提方案的性能,有效解决拓扑失配问题,并以一个五层的等级网络进行了测试。(2)根据P2P网络拓扑特点提出两种网络节点度搜索算法,即改进的最大节点度算法(MD算法)和偏好节点度算法(PD算法)。首先与传统的基于BFS(Breadth First Search)的算法和基于DFS(Depth First Search)算法不同,所提出两种算法具有记忆功能；其次,所提出的算法综合了这两种传统算法的优点；最后,采用非结构化P2P网络(BA无标度网络、ER随机图网络和WS小世界网络)对算法进行了性能测试,并和传统算法做了性能对比。(3)提出一种新的信任和信誉管理方案(IRTrust)。该方案将人际关系的复杂网络引入到P2P网络信任度评估系统中。首先在信任度计算方面,从社交网络的人际关系出发,认为关系越熟悉的网络节点在信任计算的过程中所占的权重应该越大,在信任计算过程中,时间越近的经历所占的权重就越大；其次在网络节点的信任度方面,区分网络节点的服务质量和推荐质量；此外,为了预防和描述来自网络节点的不可预知的和不确定的恶意行为攻击,在网络节点进行交易时,综合考虑各种风险因素包括网络节点的信任值、上下文内容、信任和信誉累积的速度；最后通过系统仿真,对方案进行了性能测试。(4)提出一种新的混合识别系统,即D2PFI2。该系统结合Deep Packet Inspection (DPI)技术和Deep Flow Inspection (DFI)技术优点,复杂数据流先执行DPI识别检测,大部分已知的数据流和已知的不同类型的P2P流已被识别出,而未知和加密的P2P流则通过DFI技术识别检测,从而使得所提方案不仅能保证识别的精度,又能识别载荷加密的数据流；此外,在DFI模块中,使用改进运算的C4.5算法,有效减少了D2PFI2系统的计算量,同时将DPI模块的统计结果作为高精度样本输入到DFI模块进行学习训练,以提高DFI技术的检测精度；最后通过仿真对D2PFI2系统进行了性能测试。