本文基于认知无线电系统，主要研究了频谱共享传输波形中的功率分配和信道选择。首先，介绍频谱共享传输波形研究的技术基础。阐述了无线通信中几类频谱共享策略，在此基础上基于频谱调制频谱编码（Spectrally Modulated, SpectrallyEncoded，SMSE）架构，阐释了将间插式（overlay）和重叠式（underlay）两种频谱共享模式结合的技术。介绍功率分配算法，特别是注水算法，其核心思想是将更多的功率分配给信道增益更好的子载波。在信噪比较低的情况下，采用注水算法可以极大地增加信道容量。在认知无线电（Cognitive Radio，CR）频谱共享传输波形的研究中引入前摄式（proactive）思想，用隐藏马尔科夫模型（HiddenMarkov Model，HMM）预测信道状态，阐述了HMM的相关技术背景。其次，本文针对基于正交频分复用（Orthogonal Frequency DivisionMultiplexing，OFDM）的认知无线电系统，提出一种联合了overlay和underlay的混合式频谱共享模式，研究了共享模式中如何进行资源分配的问题。考虑CR用户对主用户的干扰约束和CR用户的发射功率限制，提出了一种最大化CR用户传输容量的OFDM子载波功率优化分配模型，并且证明了该优化模型为凸优化，从而可以方便求解优化的功率分配。通过理论分析和数值计算，进一步比较了overlay、underlay和混合式频谱共享模式容量。结果显示：相对于单纯overlay和underlay模式，混合模式可以提高CR用户系统的容量。最后，根据文献可将多种业务模型转换为ON-OFF模型，并在考虑了硬件平台引起的响应延迟的情况下，采用HMM对信道未来的占用情况进行预测，减少二级用户与主用户的碰撞，仿真显示，对比传统的能量检测，基于HMM的前摄式频谱检测碰撞概率更小。基于HMM的前摄式频谱分配的思想，利用HMM的预测信息，兼顾吞吐量最大化和公平性的原则，优化传输波形设计，为二级用户分配信道，仿真显示，对比传统的能量检测，基于HMM的前摄式频谱分配使得主用户和二级用户的合容量都得以提升，并且二级用户的公平性也得到了保证。