随着通信技术的不断发展和无线应用的广泛普及，人们对无线业务的使用需求与日俱增。近年来，可用于支撑无线通信的频谱资源本已大量稀缺，而静态频谱分配所导致的低频谱利用率加剧了频谱紧缺的现状。改进频谱接入和管理机制成为必然选择，由此引入的动态频谱接入及相关技术成为研究热点。动态频谱接入允许频谱非授权用户(又称为次级用户)在不影响频谱授权用户(又称为主用户)正常通信的前提下，接入授权频段进行传输，有效提升了频谱利用率。另一方面，无线传播环境日益复杂多变，高速移动和强阴影衰落等造成的低频谱效率导致通信服务质量不能得到保障，频谱的严重稀缺使得通过利用大带宽改善通信质量变的十分困难。用户协作机制能在现有技术体制上极大提高频谱效率，已成为下一代无线通信的关键技术之一。将用户协作思想引入动态频谱接入中，可实现次级用户通过主动帮助主用户改善通信性能，从而获得接入授权频谱进行传输的机会，有望使频谱效率和频谱利用率同时得到提升。　　本文从主次用户实际需求出发，结合动态频谱接入提高频谱利用率、用户协作提升频谱效率两个特性，研究基于主次用户协作的动态频谱接入系统模型与关键技术。以动态频谱接入实现次级用户有效通信、用户协作提升主用户通信效能为目标，分析将主次用户协作引入动态频谱接入系统的合理性和可行性，针对典型应用场景探究能实现基于主次用户协作动态频谱接入的技术特点和协作性能。以两阶段协作机理、用户选择、帧结构、信号处理、收发机设计等为研究内容，设计相应算法以抑制同时中继和传输产生的同频干扰，构建主次用户两阶段协作中继传输模型。基于所提两阶段模型，对网络和终端能力受限条件下的资源管理和优化问题进行建模，针对不同应用环境和系统效能建立目标函数和效用函数，得出最优或次优资源分配策略和算法。基于上述研究工作，总结和归纳主次用户协作的常用传输–中继–转发策略，研究是否协作、如何协作的最优通信策略问题。本文的主要研究内容包括：　　1)基于主次用户协作的动态频谱接入系统的建模与分析。从主用户提升通信效能、次级用户接入频谱这两个实际需求出发，探析用户协作提升频谱效率、动态频谱接入提高频谱利用率的特性，分析有效契合这两个需求的合理性，探究主次用户协作在技术、政策层面的可行性。根据不同应用场景，提出基于主次用户协作的中继传输模型和协作频谱租赁模型，对模型实现的技术特点进行分析。针对中继传输模型，重点研究和推导一般通信场景下三阶段协作中继传输模型和有同频干扰的两阶段协作中继传输模型的吞吐量和能耗表达式，纵向和横向分析比较两种模型的协作性能。归纳总结基于主次用户协作中继传输模型的常用业务场景和数学分析方法。　　2)基于主次用户协作的两阶段协作中继传输模型的构建与分析。为进一步优化协作效率，以主次用户的两阶段协作中继传输模型为研究对象，设计和分析两阶段协作模型的帧结构、用户选择协议。为避免传统单天线系统同时中继和传输产生的同频干扰，研究基于正交调制的两阶段协作中继传输模型，设计主用户和次级用户的发射机、接收机结构及协作信令，分析次级用户与主用户的两阶段协作机理。针对尺寸受限的多天线系统的同频干扰，研究基于正交双极化天线的两阶段协作中继传输模型，结合极化信号处理和斜投影理论探究用户协作机理，提出利用斜投影极化滤波、极化对齐、极化迫零等技术抑制同频干扰的新型极化信号处理理论和技术。　　3)基于两阶段协作中继传输的资源管理与优化。从网络和终端能力、通信有效性和可靠性出发，研究所提协作模型的资源管理和分配。在正交调制模型中，利用凸规划给出不同转发方式下单用户协作的最优功率和时隙分配算法以最大化主次用户加权吞吐量；利用Stackelberg博弈求解多用户协作的最优功率策略以最大化主次用户效用。在正交双极化天线模型中，利用几何规划和符号几何规划推导单用户协作的最优功率分配以最大化主次用户吞吐量之和；利用马尔科夫决策过程、动态规划、启发式在线和近似算法研究两用户协作的最优功率分配策略以最大化加权吞吐量并实现能量的可持续利用；利用非凸规划的凸函数近似并结合凸规划设计多用户协作最优功率分配的集中式和分布式算法以最大化主次用户吞吐量之和。　　4)基于主次用户协作的中继传输模型的最优通信策略的设计与优化。综合讨论主次用户是否协作、如何协作的问题，分析非协作场景下能最大化主用户效用的资源分配策略；研究三阶段协作、两阶段协作分别与不同转发和中继方式组合的通信策略以总结主次用户协作的常用通信模型，推导九种通信模型的通信效能和协作性能。建立能联合反映能效–谱效的效用函数以表征主次用户协作需求。利用非协作博弈分别将三阶段和两阶段中继传输模型中的功率分配建模为非协作功率控制博弈和非协作功率分配博弈，证明和推导关于功率控制策略和功率分配策略的纳什均衡的唯一存在性和解析解，提出给定能量、功率、吞吐量需求等场景下的最优传输–中继–转发通信策略。