短波通信由于设备简单、成本低廉、抗摧毁性好、可维修性强及超视距传输等一系列优点一直是军事通信重要手段之一。但是随着现代高科技战争的发展，传统的短波通信很难摆脱现代电子对抗技术的威胁，因此发展抗干扰、抗窃听、抗截获等目标的短波通信系统就变得尤为重要。本论文是以中国工程院陆建勋院士提出的新型短波抗干扰通信系统——短波自适应瞬间通信系统(ABCS)为基本指导思想，探讨多进制连续相位调制技术在短波瞬间通信系统中的应用及相关关键技术研究。论文首先介绍了现代短波通信中的新技术与新体制，然后重点介绍了陆建勋院士提出的ABCS通信系统，分析了ABCS的理论基础、主要特点及相对于传统短波通信体制的优势。对短波信道多径、衰落、多普勒频移及扩展等现象进行了分析，并且基于Watterson离散信道模型，设计了一种全软件的短波信道模拟器，为短波通信系统性能测试提供了条件。连续相位调制(CPM)是一种具有恒定包络的先进调制技术，具有高效的频带利用率与功率利用率。与TCM一样，CPM在发射信号中引入了记忆，从而使CPM可以像卷积码一样用有限状态机来描述。传统短波通信通常采用PSK、QAM等调制方式，由于短波通信的带宽限制，需要基带脉冲成形技术，这就造成了调制信号包络的较大起伏，降低了发射机的功率效率。把CPM技术应用到短波通信系统，由于CPM信号本身的恒包络，可以利用高效率的非线性放大器。探讨了卷积码与CPM、RS码与CPM结合的系统性能。然后，利用CPM的记忆特性及其分解模型的递归特性，结合外部的卷积码及交织器，建立了具有优异功率效率与带宽效率的串行级联CPM系统(SCCPM)。把SCCPM应用到短波瞬间通信系统可以克服传统短波通信调制解调器的缺点，提高系统性能，具有重要意义。短波瞬间通信系统由其抗干扰性的要求一般帧长较短。当SCCPM系统帧长较短时，存在由于交织深度不够所造成的正反馈现象，使系统功率性能受到较大损失。针对这种缺点，论文提出了一种改进的SCCPM系统迭代检测接收机，通过对解码器与解调器之间传递的外信息进行加权控制来有效减少正反馈现象，提高了系统的收敛性和BER性能。动态迭代是一种减少系统平均迭代次数的有效途径。以往的动态迭代方法通常在降低平均迭代次数的同时，使系统性能受到一定损失。论文提出了一种基于硬判决改变数量的动态迭代方法，有效的减少了迭代次数，同时，该方法通过对残余正反馈的检测，使迭代停留在错误数较小的位置上，进一步抑制了正反馈的发生，提高了系统性能。短波信道是频率选择性衰落信道，严重的码间干扰是限制短波通信速率的主要障碍之一。论文提出了一种改进的基于干扰抵消的SCCPM系统迭代均衡方法。该方法改变了传统干扰抵消均衡中第一次迭代盲信息概率分布传递的方式，而是通过接收信号对发射信号的先验概率进行估计，显著提高了系统性能。使系统在好信道和中等衰落信道下，均衡性能有较大幅度的提高，而在传统干扰抵消方法不收敛的较严重衰落信道下，本文提出的方法仍然能够有效收敛。在低复杂度的前提下，本文所提出的均衡方法解决了SCCPM系统在短波信道下应用的多径干扰问题。短波通信具有严格的带宽限制，高效的带宽性能是高速通信的重要保障。论文探讨了CPM基带脉冲、调制指数、调制进制数等参数对系统功率、带宽性能的影响，分析了不同配置的SCCPM系统采用本文所提出的改进接收机后的功率带宽效率。与传统短波通信调制解调方式比较结果表明，SCCPM系统具有显著的性能增益。