随着无线通信网络的规模和通信制式日益复杂多样以及智能移动通信设备的普及,无线通信业务流量迅速增长,高密度的异构无线网络部署以及采用认知无线网络的中继协作传输技术成为提升无线通信网络覆盖范围、数据传输速率和频谱利用率的、提高用户的服务质量的关键技术。论文基于认知无线通信网络多中继协作传输技术进行研究,侧重于认知无线网络中虚拟MIMO传输方案的设计和性能仿真验证,所做的主要研究工作和创新点包括以下方面：(1)针对理想信道反馈模型,研究了认知无线网络多中继虚拟MIMO传输方案。在联合分析认知网络多中继协作传输模型与主网络干扰模型后,基于中继节点实际功耗约束以及主用户节点干扰门限约束的前提下,通过优化中继节点簇的协作信号转发向量,提出最小化业务传输的整体功耗或最大化业务传输的加权和速率的传输方案。针对和功率最小化模型,提出半正定规划+矩阵随机化的求解方法；针对加权和速率最大化模型,提出了一种基于加权和速率片分的求解方案。仿真结果证明,相比于简单的时分复用方案,所提方案能够显著提升业务传输成功概率,并极大降低业务传输的中继节点总消耗功率。(2)考虑到实际通信系统中节点信道反馈存在的反馈误差,进一步分析了非理想信道反馈模型下认知无线网络多中继虚拟MIMO鲁棒传输方案。针对给定信道反馈误差建模,分析了此时业务传输的最低传输SINR以及主网络节点的最大接收干扰,通过推导最差情况下业务传输SINR以及主用户节点接收干扰的闭式表达式,并参考理想信道反馈模型下的优化思路,提出联合利用半正定规划+矩阵随机化的问题求解算法,完成了非理想信道反馈下认知无线网络多中继虚拟MIMO鲁棒传输方案的设计。仿真结果表明,相比于不考虑信道反馈误差的非鲁棒传输方案,所提鲁棒传输方案会造成一定的功率消耗增加,但是可以很好保障认知网络业务最低传输SINR要求以及主网络节点最大接收干扰门限要求,保障了非授权频谱的合法使用,提升了系统业务传输的可靠性。