连续中继作为改进传统中继策略的手段,能有效弥补传统中继系统中中继节点收发不同时而带来的50%频谱资源浪费。连续中继系统采取解码转发(Decode-andForward,DF)策略能避免放大转发(Amplify-and-Forward,AF)的噪声放大,进而提高通信质量。但在DF策略中,需要知道发送节点的调制方式。当其应用到军事系统、认知网络中,各节点之间是非合作的,发送节点的调制方式一般是未知的,所以就需要对发送节点的调制方式进行识别。本文针对连续中继系统的源信号调制方式识别展开如下研究。(1)为弥补现有文献未研究多点MIMO通信时有干扰存在下的调制方式识别,本文研究了连续中继系统中基于似然函数且在中继间干扰下的调制方式识别。这是由于基于似然函数的调制方式识别算法在贝叶斯意义下是最优的,可以为其他算法提供理论上限。本文中,首先取得某一干扰和源信号调制方式对下的接收信号的似然函数,此时的似然函数相当于接收信号在干扰信号和源信号调制方式对条件下的条件概率函数。然后计算关于源信号调制方式的边缘概率,这样似然函数就是关于源信号调制方式的函数。我们取得似然函数最大时对应的源信号调制方式即为识别的源信号调制方式。本文通过性能分析,从理论上证明了本文所提联合识别干扰算法的优越性,并且仿真验证了该结论。(2)为降低算法的时间复杂度,提高本文联合识别干扰算法的可操作性,研究了基于高阶统计量(Higher-order Statistics,HOSs)的调制方式识别算法。本文首先提取接收信号的高阶统计量,计算其均值和方差矩阵。因为计算这些均值和方差时计入了干扰信号,所以得到的特征量概率分布是关于源信号和干扰信号调制方式的函数。然后计算出该联合概率关于源信号调制方式的边缘概率,利用得到的特征量概率分布函数构造似然比分类器,最终识别出源信号的调制方式。仿真结果显示算法能很好抑制干扰带来的影响,提高了算法的识别性能。接着我们考虑实际通信中干扰可能会不同步时首先计算干扰不同步带来的时偏下的特征量概率分布函数,先求出时偏的最大似然估计,然后识别该时偏下的源信号调制方式,仿真表明改进算法能很好抵抗时偏的影响。