成对载波多址(PCMA)新型频率复用技术能够成倍地提高卫星信道的频谱利用率,同时提高通信信号的抗截获能力。PCMA通信双方使用相同的上、下行链路,发射的信号在时域和频域完全重叠,每个终端接收到的是两路信号的混合。在非协作通信中,第三方对PCMA通信双方的信息均感兴趣,且不知晓任何一方的先验信息,需要从接收的一路同频混合信号中恢复出两路信号携带的数据信息,这属于单通道盲分离问题。本文主要围绕PCMA信号单通道盲分离关键技术展开研究,重点研究了基于信息论的可分离性、高精度参数估计、低复杂度逐幸存路径处理(PSP)盲分离以及结合编码的多层次联合迭代处理等四个方面的内容。论文的主要工作和创新性贡献概括如下:1.从信息论的角度研究了PCMA信号盲可分离性理论。将混合信号模型视作有记忆多址接入信道模型,针对不同的信道记忆长度,分别提出了基于BCJR前后向和积递归方法和蒙特卡洛积分方法计算混合信号的信息速率界,结合费诺不等式推导了混合信号分离误码率下界,并分析了调制参数对信息速率界和分离性能界的影响。得到的信息速率界和分离性能界为混合信号盲可分离性提供了理论参考。2.提出几种高精度参数估计算法,并推导其克拉美罗界。混合信号参数估计是盲分离不可或缺的重要环节,为了进一步改善分离性能,研究了基于过采样和数据辅助的高精度参数估计算法。分别提出了基于过采样的四次方法和基于数据辅助的最大似然幅度估计法、面向判决的最大似然相位估计法、基于最大平均四次方法和基于数据辅助的最大似然时延估计法。为了评价参数估计的性能,推导了确定标量参数和矢量参数的克拉美罗界(CRBs)以及独立估计和联合估计的修正克拉美罗界(MCRBs)。提出的高精度参数估计算法能够达到或者接近克拉美罗界。3.分别从信道和信号层面提出两种低复杂度PSP分离算法。PSP单通道盲分离的算法复杂度随着信道记忆长度和信号调制阶数呈指数倍增长,如何有效降低复杂度是PSP盲分离迈向实用化的瓶颈问题。从信道层面出发,针对长信道记忆长度(L>7),提出了一种基于判决反馈前馈的RSDFF-PSP单通道盲分离算法,通过全局判决反馈滤波和延时判决前馈滤波设计消除前导和尾部干扰,实现了复杂度和分离性能的良好折中。从信号层面出发,针对高阶调制(8PSK/8QAM/16QAM)混合信号,提出了一种基于Ungerboeck集分割的SP-PSP单通道盲分离算法,通过将混合信号的星座图划分为若干子集的组合,有效地减小了信号的调制阶数,进一步降低复杂度,从而实现高阶PCMA信号的盲分离。4.结合不同编码方式提出两种低复杂度联合迭代分离算法。将“BICM-ID方案”和“Turbo原则”相结合,建立了包括参数估计、盲分离、解映射和纠错译码等模块的多层次联合迭代处理模型。研究了软输出PSP盲分离、软输入软输出(SISO)解映射和SISO译码模块,提出了一种结合卷积编码的DFF-PSP迭代分离算法。研究了减状态软输出PSP盲分离和TPC码迭代译码结构,提出了一种结合TPC编码的DF-UP-PSP迭代分离算法。提出的算法实现了低信噪比条件下低复杂度PSP盲分离和纠错译码的有机结合。