21世纪是信息技术不断发展的时代,伴随着用户对无线通信带宽需求的不断增长,无线移动通信技术正在向高速率化、高带宽化、高频率化的方向快速发展。协作通信（Cooperative Communication）技术使用中继节点的收发天线与自身的收发天线形成多发射天线阵列,从而构成虚拟的MIMO （Multi Input Multi Output）系统来获得空间分集增益,也提高了通信传输的可靠性。从某种思想上来说,协作通信技术既弥补了经典MIMO技术的缺陷,又为MIMO技术走向实际应用领域提供了新的发展思维。协作通信技术以独特的设计思想和优势使得其在未来无线通信发展领域具有非常深远的应用前景和意义,例如在蜂窝移动通信网络、无线自组织（Ad hoc）网络、无线传感器网络（Wireless Sensor Networks, WSN）、车载网络等领域可发挥重要的作用,它在低成本条件下是一种高效的无线资源分配解决方案,将成为未来的无线通信网组成构架中重要通信技术之一。复杂网络是近些年发展起来的崭新学科,是研究复杂系统的一种重要理论和工具,主要刻画复杂系统中节点与节点之间、节点与系统之间相互关联、相互作用的网络拓扑结构,是深入分析和发现复杂系统的基本性质和作用规律的基础。作为一种广泛存在于自然界和社会中理论研究模型,复杂网络已经渗透到众多学科之中,诸如计算机科学、无线通信系统、控制科学理论、电子电路系统、医药科学、生物科学、环境科学、社会经济学等等。将复杂网络理论应用于协作通信网优化问题研究,可以深入地分析协助通信网特有的本质特征、作用规律以及抗鲁棒性,从而达到对协作通信网进行预测、优化、控制的目的。因此,本文的主要工作就是首次基于复杂网络理论知识来研究协作通信网络中存在的一些关键科学问题进行深入研究其主要工作和创新性成果概括如下：（1）提出一种基于BA （Barabasi and Albert）扩展模型的协作通信网演化模型,并对网络的演化特性和演化规律进行了分析。在协作通信网中,些性能较好、通信容量较高的节点更容易获得与其它节点进行通信。所以,在网络演化过程中某个新增节点或者新增链路添加到网络中时,对网络中现有的节点选择就是非常值得研究的问题。通过对协作通信网络的深入分析,考虑了在协作通信网中按增加节点、增加链路、删除节点、删除链路四个步骤进行网络演化,然后建立一种BA扩展模型来分析研究协作通信演化网络的特性。最后利用数值仿真对协作通网络特性的分析成果以及鲁棒性进行验证。（2）提出一种基于BA和ER （Erdǒs and Rényi）混合的协作通信网优化模型,可以规避网络随时间演化旧节点度无限增大引起网络节点通信容量饱和,也可以规避协作通信中对中继节点进行随机化选择。BA无标度网络模型具有网络增长特性和优先连接特性,随着时间不断推移演化网络中包含有少量高度值节点和大量低度值节点构成。ER随机网络模型中两点之间具有相同连链路概率,是一个链路数与网络规模同阶的稀疏图,对于固定的网络密度并没有聚类特性,且网络节点的度值基本接近网络的平均度。基于此,本文建立基于BA和ER混合的协作通信网络演化模型,并对模型的网络特性进行分析,然后对该网络模型进行鲁棒性分析。最后利用数值仿真对协作通网络特性的分析成果以及鲁棒性进行验证。（3）提出一种基于BA和ER混合的适应度协作通信网优化模型,模型能够很好的应用于协作通信网络,有一些通信性能较高的新型网络节点可以通过对其赋予一个适应度权重值来获取更多的通信连接。考虑到节点之间具有不同的竞争能力的适应度模型,是根据节点性能的高低对每个节点赋予一个权重,通过权重值来控制该节点获取链接的能力。这种模型能够很好的应用于协作通信网络,有一些通信性能较高的新型网络节点可以通过对其赋予一个适应度权重值来获取更多的通信连接。建立基于适应度的协作通信网络演化模型,并对模型的网络特性进行分析,然后对该网络模型进行鲁棒性分析。最后利用数值仿真对协作通网络特性的分析成果以及鲁棒性进行验证。（4）提出一种基于确定性小世界模型的协作通信网中继节点选择策略,能够很好的应用于具有的明显聚类和小世界特性的相对均匀的协作通信网络。首先,由于随机模型中链路的随机连接特性不适合包含固定节点连通度特性的通信网络,因此建立基于确定性小世界特性的协作通信网络演化模型,并对其网络特性进行分析。然后,基于确定性小世界模型的协作通信网络,利用最大度和最小聚类系数的中继节点选择策略,加入分界值k₀参数,分析该策略在协作通信网中继节点选择的效果,并与最大度中继节点选择策略和最小聚类系数中继节点选择策略进行比较分析。最后通过仿真模型对其性能进行了数值仿真和验证。