短波通信由于具有成本低廉,灵活可靠,通信距离远等优良特性,在军事及民用远程通信等应用领域具有十分重要的地位,几十年来一直是通信领域的研究热点之一。传统的短波通信速率相对较低,而宽带短波传输技术利用了多载波技术和扩展频谱带宽来提升短波通信速率,是短波通信的重要发展方向。短波频段为3-30MHz,其频谱为公开的资源,带内各类通信用户众多、频率分配杂乱。如何在有限的频谱条件下,提高短波频带的有效利用率,合理地利用空闲频谱,并避免不同用户之间的相互干扰,保证通信链路的畅通可靠,是一个具有意义的研究课题。本文将认知无线电技术与短波通信相结合,研究适合短波传输的非连续频谱波形。非连续频谱OFDM(NC-OFDM, non-continuous OFDM)由于其出色的频谱可塑性,及OFDM固有的抗多径衰落能力,为本文研究的物理层调制方案。本文将针对短波认知用户与其他相邻用户相互干扰较大、多载波带来的峰均比过高等问题,提出适合短波通信的解决方法。本文分别从以下四点进行深入研究：首先,为了解决非连续频谱OFDM的频谱旁瓣过高,影响带内或相邻用户的正常通信问题,我们引入N阶连续OFDM概念。N阶连续OFDM为相邻OFDM符号幅度及相位N阶连续的一类OFDM信号,它有效地减小了传统OFDM信号的带外功率泄漏。本文研究了利用投影预编码实现有记忆性及无记忆性的N阶连续OFDM信号的方法,并推导其生成信号的频谱表达式。通过理论及仿真分析,证明N阶连续OFDM信号能够有效降低对相邻用户的干扰。针对投影预编码的特性,本文提供了直接和迭代解调方案。前者实现简单但误码性能较差；后者误码性能接近未编码方案,但复杂度高。本文还同时提出了畸变受限的投影预编码器。它具有一定的带外频谱抑制效果,且由投影预编码带来的误码性能损失能控制在预设的范围内。其次,为了实现误码性能无损的预编码方案,本文以带宽利用率为代价,研究了基于正交预编码的N阶连续OFDM,并提出了利用正交预编码器实现有记忆性N阶连续OFDM,其有效速率损失为无记忆性正交编码器的一半。理论及仿真证明其生成信号的频谱与投影预编码器一致,但误码率与未编码方案一致。本文还提出了一种新的正交预编码器,可以在给定较小编码冗余的情况下,实现更加陡峭的频谱边缘。同时,它还具有直接、迭代、正交解码三种灵活的接收方案。这三种不同复杂度的方案具有不同的误码性能,其中迭代解码方案实现了复杂度与性能的折衷。在短波干扰信道下,新的正交预编码器的误码性能优于原有方案。再次,为了解决非连续频谱OFDM更加严峻的峰均比问题,本文研究了联合优化非连续频谱OFDM峰均比及旁瓣的两种方法,同时减小了非连续频谱OFDM时域峰值及其频谱带外功率。正交预编码器结合了降峰均比预编码矩阵和N阶连续OFDM预编码矩阵。它的有效速率损失较小,但接收端需要增加相应的解预编码模块。保留子载波技术利用不承载数据信息的子载波,生成抵消时域峰值的波形及N阶连续OFDM信号。通过改变折衷系数的大小,调整两个优化目标的权重,可实现不同的频谱抑制效果及峰均比分布。它不需要改变接收端结构,但发送端复杂度较大。仿真证明了两种方法生成的波形在带外功率及时域峰值上均具有良好的抑制效果,且无需边信息传输,适用于短波系统。最后,为了缓解相邻用户对短波认知用户解调带来的干扰,本文研究了非连续频谱OFDM接收加窗预处理方法。这种方法利用了循环前缀中未被多径信道“污染”的部分进行时域加窗处理,缓和了信号截断边缘,降低由于矩形窗带来的干扰频谱泄漏。本文根据最大化信干噪比的原则,设计已知干扰参数的最优窗函数；根据最小化预设范围内的旁瓣功率的原则,设计未知干扰参数时的最优窗函数。结果表明,这两种最优窗的性能优于传统固定系数窗函数,且已知干扰参数时的接收加窗预处理误码性能将略优于未知干扰参数的情况。