信道极化码是一种能够达到信道容量的构造性编码,是编码理论的前沿方向。极化码发明人Arikan教授在2015年国际信息论大会(IEEE ISIT)的演讲中指出,关于极化码未来的发展,各种通信传输系统中基于信道极化思想的优化与极化码的应用将成为主流方向。但目前,以极化变换为理论指导的无线传输系统设计与优化还缺乏完善的理论框架,考虑衰落信道特性、实际多天线传输系统中的信号空间映射、多用户码本设计等因素的研究还远远不足。有鉴于此,本文将极化码的设计思想推广到通信信号的极化传输,称为广义极化变换,主要研究无线通信系统中多流信号的极化传输理论与方案。本文从无线通信系统普遍存在的广义极化现象入手,将极化码的信道极化设计思想进一步推广到通信系统的整体处理,面向下一代无线通信系统中的多流信号传输场景,以广义极化变换为指导理论,建立多流极化信号传输理论框架和技术方案,推动这个新方向的研究。这既是信道极化理论的成功应用,也是对通信系统整体性能的根本性提升。具体来看,本文主要包括以下四个方面的创新工作:第一,对极化码主流的高斯近似构造算法进行了误差评估与优化设计。首先对目前广泛使用的极化码高斯近似(GA)构造算法进行了误差分析,通过计算两类误差集合与累积误差度量上界,本文揭示了传统GA构造算法在长码长与低码率的极化码构造时出现严重性能损失的本质原因。结合上述分析,本文进一步提出了适用于极化码构造的GA近似函数设计准则,在保证精度的同时可以降低计算复杂度。测试结果显示,本文设计的GA算法可以保证在各种极端码长码率下,极化码仍然具有优异的性能。第二,对非正交多址系统(NOMA)高效多用户检测算法进行了研究与设计。多址接入系统是最典型的多流信号传输场景之一,本文针对5G中的新型NOMA技术进行深入研究。针对NOMA接收端多用户检测复杂度较高,性能较差的问题,本文设计了一套高性能低复杂度的NOMA多用户检测算法。首先,本文基于LDPC译码中的“快速信息交互”思想优化了NOMA多用户检测消息传递算法(MPA)中的信息交互机制,提出了两类增强型MPA算法,提高了MPA算法的收敛速度,降低了处理时延与计算复杂度。然后,本文将各用户的信道译码器与多用户检测器进行组合,提出一种阻尼因子(DF)辅助的联合迭代接收机,DF的具体取值由EXIT图优化得到。仿真结果显示,在引入阻尼因子后,联合迭代接收机可以快速收敛到理论最佳性能,显著提升了NOMA多用户检测的可靠度。第三,在上述两个创新工作的基础上,本文基于广义极化变换理论,设计了极化非正交多址(Polar-NOMA)系统。首先,本文深度挖掘了多用户数据流在非正交叠加时的信号域极化现象,并将其与调制信号极化及极化码本身的二进制域极化联合,形成“用户→信号→比特”三级广义极化变换框架。由此,极化编码与非正交多址信号传输被纳入到统一的理论体系,进行联合设计。然后,本文提出了两种用户信号分解方案:一种串行用户分解(SUP),该方案从互信息的链式法则出发进行设计,用户分解过程无容量损失,可以获得最高的频谱效率;另一种并行用户分解(PUP),该方案在用户分解过程有容量损失,但可提升系统并行度。针对SUP,本文依据信道极化理论,设计了使系统极化增益最大化的多用户分解与检测顺序,进一步提升了Polar-NOMA系统性能。仿真结果表明,本文设计的Polar-NOMA系统,相比实际系统中已经被广泛使用的Turbo编码外迭代传输系统,能够获得更优的性能,且NOMA系统用户过载率越大,增益越明显。第四,在广义极化变换理论理论指导下,设计了极化多天线(Polar-MIMO)系统。首先,本文将MIMO信号传输视作一个特殊的信号域极化过程,利用互信息的链式法则,原始MIMO信道被变换为一组具有依赖关系的无记忆信道。与已有的调制和二进制极化编码模块组合在一起,构成了“天线→调制→比特”三级广义极化结构,从而信道编码、调制与多天线传输得以在统一的理论框架下进行联合优化设计。然后,本文设计了两种天线分解方案:一种串行天线分解(SAP),该模式下的Polar-MIMO系统可严格证明系统容量可达,具有最优性能;另一种并行天线分解(PAP),该方案以系统性能损失换取并行度增益。在实际Polar-MIMO信号传输过程中,本文结合不同MIMO检测算法,设计了基于高斯信道容量等效的码字构造方法。仿真结果表明,Polar-MIMO系统相比实际系统中已经被广泛使用的Turbo及LDPC编码的MIMO系统,在复杂度相当或者更低的情况下,有显著性能增益。