电力线通信是通过已经广泛布网的电力传输线做为通信信道进行数据传输和信息交换的通信技术。与无线通信网络、传统的以太网等技术相比,电力线通信具有无需重复布线、分布范围广等特点,因此成为了用户终端宽带接入、智能电网、智能建筑和家庭自动化等领域极有潜力的技术。在电力线信道中传输高频信号时,信道会表现出时变、多径衰落、脉冲干扰等特性,高频信号通过电力线信道后会被严重衰减和干扰。因此,研究如何高速、可靠地在电力线信道中传输数据就成为一个非常有意义和应用价值的研究课题。本论文针对电力线通信系统中存在的信道多径、脉冲干扰、时变特性等问题,对电力线通信系统中的信道编码和协作中继技术进行研究,以增大系统容量、降低系统误比特率和实现低复杂度为优化目标,在信道编码算法和协作中继协议等方面进行优化设计。主要研究成果归纳如下:1.针对电力线通信系统的脉冲干扰问题,提出将极化码用于电力线通信系统的信道编码以降低系统的误比特率,并引入了比特交织技术,减少脉冲干扰带来的“错误平台效应”。设计了基于极化码的电力线通信系统的系统框架和编译码算法,最后通过仿真与LDPC码、LT码等信道编码方式的系统性能进行对比,验证了基于极化码的电力线通信系统的性能优势。2.针对在低信噪比时极化码译码器的“错误蔓延”问题,提出将极化码为内码,LT码为外码的级联码作为信道编码的电力线通信系统。LT码作为外码,减少译码时的“错误蔓延”问题,使得内码极化码的连续删除译码算法性能得到进一步提高。设计了基于极化码-LT级联码的电力线通信系统的系统框架和编译码算法,最后通过仿真与LDPC-LT级联码的系统性能进行对比,并对系统复杂度进行分析,验证了该架构的有效性。3.提出一种基于喷泉码协作中继协议的电力线通信系统并分析其系统容量。理论分析该系统的容量上界,得到系统容量的闭式表达式,并通过仿真与其它中继协议系统容量进行对比;讨论在不同的电磁兼容规定下的容量增益情况以及不同的中继位置对基于喷泉码转发协议的电力线协作中继系统容量的影响。4.为避免信道估计和系统同步,提出一种三个时隙自适应差分调制双向中继协议。中继节点根据收到来自两个源节点的信息解码情况,动态的生成调制信号,避免中继节点的“错误蔓延”,获得更高的系统性能,然后通过仿真验证了算法的有效性。为了进一步降低系统的复杂度,提出了一种次优的差分合并检测算法,仿真验证了该次优算法的性能逼近最优差分合并检测算法。