认知无线电技术的出现给无线通信带来了革命性的变化。非授权用户通过检测频谱活动信息机会式地接入空闲频谱,有效地提高了频谱利用率。研究认知无线电系统中的多载波传输体制显得尤为重要。本文研究并设计了认知无线电系统中适用的传输体制,对认知无线电系统传输体制的研究与实现做出了一定的贡献。首先研究了基于不连续正交频分复用(NC-OFDM)的传输体制。为认知无线电通信系统提出了一种新颖的帧结构。前导字序列在每个子载波上都进行传输以此来标识认知无线电网络。每一个编码包仅在某一个特定的子载波上通过连续的OFDM符号传输。如果某些子载波在传输过程中受到信道的严重影响,那么相应的编码包就会丢失,但不会影响最终的解码处理。文章中介绍了NC-OFDM收发机详细的信号处理模块,重点研究了载波频偏估计问题以及主动干扰消除问题。该传输体制中采用了一种在频域上进行估计载波频偏的算法。研究了结合功率控制的主动干扰消除模型,我们将它简化成一个有限制的最小二乘问题得到它的最优解,并用仿真结果显示了该算法的性能。其次研究了基于变换域通信系统(TDCS)的传输体制。本文中提出了一个新颖的可变速率变换域通信系统(VR-TDCS)的概念。为了提高频谱的利用率,VR-TDCS在不同的子载波上传输可变的M_ary进制数据符号,取代了传统变换域通信系统中使用所有子载波来传输一个数据符号的做法。VR-TDCS系统中的功率和比特分配也与传统TDCS不一样,它们取决于每个子载波上的噪声分布情况。文中推导出了VR-TDCS中基于MPSK调制方式的系统误比特率性能的理论公式。基于这个性能公式,提出了一个VR-TDCS中最优化的功率和比特分配算法,在一定的BER需求的前提下最大化系统传输速率或者最小化总功率。最后研究了认知无线电系统传输体制的硬件实现方案。介绍了基于软件无线电技术的基带信号处理硬件平台。几乎所有的物理层算法都在DSP上实现,文章中详细介绍了基于ADSP-TS201芯片的相关电路原理图以及一些算法的简化实现。