协作通信是IMT-Advanced系统中非常重要的技术,它利用无线媒介的广播特性,在不增加硬件复杂度的前提下,使得单根天线的用户利用协作伙伴的天线,形成虚拟的天线阵列,从而获得空间分集增益,来对抗无线信道的衰落、提升信道容量和无线链路的传输可靠性、扩大无线传输的覆盖范围；另一方面,随着无线通信网络逐渐向宽带化和智能化的方向发展,飞速增长的无线频谱资源需求和相对匮乏的频谱资源供给之间的矛盾日益加剧。然而,联邦通信委员会的研究报告表明,现有的固定频谱分配机制使得无线频谱资源在时域和频域上不同程度地被闲置和浪费。认知无线电技术,旨在打破传统僵化的频谱资源管理和使用机制,被认为是实现动态频谱接入,缓解无线频谱资源紧缺问题的关键技术。二者的结合能有效地改善系统的传输性能,提高频谱利用率,已成为当前的研究热点。本论文针对协作通信中的多中继节点选择和资源分配、协作与认知无线通信网络中的TCP性能以及多媒体传输性能的优化进行了相关的研究,提出了相应的创新性解决机制,并做了详细的理论分析和性能仿真。本论文的主要贡献和创新点如下：1.提出了解码转发式协作通信网络中的机会多中继选择策略和最优功率分配算法。首先,分析了单中继节点选择策略无法获得“涌现”增益,而若所有中继节点都参与协作,又会加大系统实现复杂度、不利于同步的实现,因而需要选择合适数量的中继节点参与协作；另外,在无线传感器网络、移动Ad Hoc网络中,中继节点使用电池供电,能量是有限的,而网络生存时间又与节点的剩余能量密切相关。第二,为延长平均网络生存时间,提出了基于瞬时信道状态信息和剩余能量信息的机会多中继选择策略,避免了过度使用信道条件较好的中继节点,平衡各节点的资源利用。第三,在机会多中继选择的基础上,以最大化信道容量为优化目标,利用拉格朗日对偶分解和次梯度投影算法,对源节点和协作中继节点的功率进行最优分配。最后,仿真结果表明,所提的机制能以较低的复杂度显著地提升平均网络生存时间,可通过调整权值系数使得信道容量和网络生存时间之间达到一个很好的折中。2.提出了基于Underlay架构的协作与认知无线通信网络中的TCP端到端吞吐量优化机制。首先,分析了基于Underlay架构的认知无线网络中优化TCP性能的必要性,讨论了可用频谱的动态特性、物理层的调制与编码机制、MAC层的自动重传机制对TCP端到端吞吐量的影响。第二,考虑了授权用户(Primary User, PU)的服务质量(Quality of Service, QoS)需求。在认知用户(Secondary User, SU)接入授权频段的同时,保证PU链路的中断概率低于预设的门限；另外,能效的角度考虑了剩余能量对网络生存时间的影响。第三,将基于Underlay架构的协作与认知无线通信网络描述为一个状态时变的赌博机(Restless Bandits)系统,利用其优先权-索引特性,通过线性规划松弛和原始-对偶启发式算法得出最优策略。最后,仿真结果表明,该机制能较大改善TCP端到端吞吐量。3.从跨层设计的角度,提出了协作与认知无线通信网络中综合考虑信道感知与接入策略的多媒体性能优化机制。首先,从用户感受角度出发,分析了协作与认知无线网络中多媒体性能优化的必要性,讨论了基于动态频谱特性的信道感知与接入策略对应用层多媒体传输性能的影响。第二,以端到端的视频失真为目标,优化了应用层视频编码中的帧内刷新率,使之自适应当前的网络状况。第三,由于漏检和误检会导致频谱占用状态无法直接观察,因而将信道感知和信道接入描述为部分可观测马尔可夫过程(POMDP)。通过动态规划算法和值函数得到相应的最优策略,另外,为降低计算复杂度,通过贪婪算法得到次优策略。最后,仿真结果表明,所提的机制能减小多媒体传输时的端到端的视频失真,提升了用户体验满意度。