柔性直流系统以功率调节灵活性高、有利于新能源并网、适合多落点受电及直流组网等优势,成为未来电力系统的重要发展方向。与大地回流双极直流系统相比,金属回流双极直流系统线路结构不同,故障工况下的电磁耦合过程更为复杂;且由于回线的影响不能忽略,大地回流系统中常用的2阶极模变换矩阵不再适用。本文以含金属回线的对称双极柔性直流系统为研究对象,推导了4种可实现线路极间解耦的极模变换矩阵,将其应用到故障分析与线路保护中,并构造模量相平面实现故障选极,形成了一种直流线路单端快速保护方案。论文的主要工作如下:（1）推导了适用于金属回流双极直流系统的极模变换矩阵。首先,为实现金属回流双极直流系统正极、中线、负极线路解耦,分析了适用于该系统的极模变换统一数学原理;在此基础上,对比三相交流系统、大地回流双极直流系统、金属回流双极直流系统中解耦变换的异同,提出了对线路集中参数模型和分布参数模型均适用的4种极模变换矩阵,并分析了不同变换矩阵在数学意义与物理意义上的对应关系;最后,基于提出的极模变换矩阵,建立了直流线路在模分量坐标空间（模域）下的等效解耦模型。所提出的极模变换矩阵,能够实现不对称运行分析和故障分析的简化,可为直流线路保护整定等提供理论支撑。（2）提出了基于极模变换的柔性直流输电系统故障分析方法,阐明不同极模变换矩阵在换流站不同接入方式下的适应性。首先,分析了故障发生后子模块闭锁前MMC的等值电路,考虑MMC换流站接入直流系统的不同方式,建立其在模分量坐标系下的相应等效模型;然后,结合MMC、直流线路在模域下的等效模型及故障点边界条件,得出采用TC变换时金属回流双极直流系统在不同故障类型下的复合模量等值电路,讨论了不同故障类型下的故障电流模量特征;最后,在PSCAD/EMTDC中搭建双端直流系统仿真模型,对所作推导进行了验证。（3）提出了基于模量相平面的柔性直流系统线路单端快速保护方案。首先,基于极模变换方法计算了模量电压初值,分析了故障初始阶段的模量特征,得出阈值整定和保护范围校验的原则;在此基础上,结合限流电抗器的边界作用,采用1模电压微分绝对值作启动判据,实现前向区内外故障的区分;根据故障电流模量特征,用1模电流突变量作方向判据识别故障方向,以2模电流和0模电流突变量为横纵坐标构建一种新型故障选极相平面,实现故障选极;最后,在PSCAD/EMTDC中进行仿真,验证了所提保护方案的可靠性、快速性和灵敏性。