随着智能电网国家战略的推进,我国电网正在发展成为前所未有的交直流混联复杂电网,其规模迅速扩张、结构日益复杂、技术不断改进、运行灵活多变。电网发生的单一故障若不能及时阻断,将会在交直流系统间引起连锁演变的复杂事故过程。继电保护作为电力系统安全防护的第一道防线,其可靠迅速的动作对于遏制事故扩大发展、维护系统稳定运行至关重要。然而,由于电网复杂性的增加,系统中大量存在的变压器、电流互感器等非线性铁磁元件将产生和应交互作用,并引发复杂的电磁暂态过程；为了满足远距离、大容量的送电需求,直流输电、串联补偿等新型输电技术在电网中得到了广泛应用,造成了复杂的故障模式及演变特征。这些问题使得现有继电保护难以满足复杂大电网的安全防护要求,导致保护误动、拒动事故频发,严重威胁交直流系统的稳定运行。论文以适应智能电网安全防护需求为目标,围绕交直流电网复杂暂态过程及继电保护关键技术开展研究工作。变压器空投将使得邻近运行变压器发生和应涌流,并给相邻正常运行元件的差动保护造成误动隐患。和应涌流以其形式的多样性、产生的隐蔽性和机理的复杂性而成为备受关注的研究热点。现有对和应涌流的机理分析往往假设运行变处于空载状态,难以反映发变组、变电站以及直流换流站中运行变压器带载运行的真实情况。关于和应涌流及其对差动保护影响的研究尚待进一步深化。论文从理论分析、数字仿真和动模试验等层面研究了运行变非空载情况下的多侧涌流和应交互作用。解析分析了运行变带无源负载、有源负载以及与发电机相连等情况下复杂和应涌流的产生机理与基本模式,并通过数字仿真进行了验证。开展了和应涌流动模试验,总结提炼了和应涌流的影响因素与电气特征。提出了基于站域信息共享和基于运行变压器饱和磁通计算的两种不同原理的和应涌流识别方法,以提高差动保护在复杂和应涌流期间的可靠性。由于和应涌流、励磁涌流等因素的影响,电网一次电流暂态过程更加复杂多样,增加了保护用电流互感器暂态饱和特性的分析评估难度。论文构建了一种电流互感器复杂暂态饱和特性数字仿真分析平台,该平台可根据实际分析需要,灵活组态模拟和应涌流、转换性故障及重合闸等不同形式的电力系统复杂暂态过程,并通过选配所开发的TPY级、PR级和P级等不同类型电流互感器的精确数字仿真模型,能够实现电流互感器复杂暂态特性及差动保护动作性能的分析评估,从而为电流互感器的设计选型、运行维护与事故分析提供指导。此外,基于磁动势等值原理、采用多类型工业实用的电流互感器构建了电流互感器物理模型,通过动模试验深化研究了电流互感器的暂态饱和特性,并根据试验结果构建了仿真平台中的互感器精确数字仿真模型。现场发生多起变压器空投导致相邻正常运行元件差动保护误动的事故,这类误动问题涉及变压器的和应涌流、励磁涌流,同时还与互感器饱和相交织,至今仍未掌握和认识这类变压器、电流互感器多非线性铁磁元件和应交互作用的机理,揭示引起保护误动作的根本原因。本文结合理论分析、数字仿真以及现场录波数据,围绕变压器空投导致相邻正常运行的发电机、输电线路和变压器差动保护误动事件开展研究,分析了变压器励磁涌流、和应涌流以及互感器饱和等因素对差动保护的影响,揭示了穿越性励磁涌流导致的互感器饱和是引起差动保护误动的主要原因。通过研究表明,目前现场普遍使用的互感器饱和识别方法难以判断由复杂涌流所引发的互感器饱和,为此针对性的提出了一种基于二次电流非周期分量的互感器饱和识别判据,以防止差动保护在相邻变压器空投期间误动。串联补偿技术作为广泛应用的新型输电技术,在提高线路输电能力、改善电力系统稳定性的同时,也使得电网的结构参数与故障特性变得更加复杂,现有串补线路距离保护普遍采用缩小保护范围的方式以躲过正向串补电容出口故障时的超越误动,由此给串补输电系统的安全稳定运行带来了巨大风险。论文提出了一种串补线路边界保护新原理。该方法将串补电容作为异构边界,基于R-L微分方程、应用最小二乘算法求解故障距离,利用等传变原理解决了CVT暂态过程以及线路分布电容对测距精度的影响,能够根据测距结果的波动程度或者最小二乘算法拟合误差的大小,有效判断故障点与串补电容之间的相对位置关系,从而克服距离保护的超越误动问题,实现串补线路的单端量全线快速保护。直流输电技术的引入,使得电力系统的故障特性和演化过程更加复杂,同时带来了交直流系统保护协调配合的新课题。论文结合某省级交直流电网实际情况,围绕交流系统发生的短路故障、励磁涌流等暂态过程期间直流保护的动作特性开展研究工作,并提出了应对策略,主要内容包括：通过引入YD型换流变三角形绕组零序环流作为制动量,以提高换流器桥差保护在交流系统发生扰动期间的可靠性；揭示了交流系统发生励磁涌流期间,直流侧谐波的产生与传导机理,并提出通过判断整流站交流母线电压与直流侧谐波电流之间的线性相关性,识别由励磁涌流所产生的直流谐波,从而防止直流谐波保护在励磁涌流期间误动。论文最后对所取得的主要研究成果进行了总结,并对下一步研究工作进行了展望。