随着电力工业的迅速发展，由电气设备绝缘故障引发的电力系统事故所造成的危害也越来越严重，因此开展对电容型设备绝缘在线监测研究对于全面实现状态维修具有十分重要的现实意义。本文仿真分析了目前电容型设备绝缘在线监测方式可能引入的误差，并结合光电转换技术、数字信号处理技术以及虚拟仪器技术，采用综合相对测量法，研制出了一套基于相对测量法的变电站电容型设备绝缘状态的在线监测系统。根据目前电容型设备绝缘在线监测相位参考信号的引入方式，本文首先分析了CVT（电容式电压互感器）的工作原理及二次侧电压的稳态误差，考虑了CVT二次侧电压相位的波动影响因素，据此采用MATLAB/Simulink仿真工具，对CVT正常运行时二次侧电压相位的波动范围进行了仿真计算。仿真结果表明：CVT正常运行时二次侧电压相位易受外界因素影响而波动，且其波动范围易超出在线监测装置的精度要求，容易淹没设备实际的绝缘状态信息，造成在线监测装置的误诊断。为消除外界因素引入的相似干扰，实现对设备绝缘状况的精确诊断，本文阐述了基于设备泄漏电流相位比较的相对测量法及绝缘监测原理，并对其进行了改进。在确定同类型设备相对介损数据计算方法的基础上，引入模糊隶属度函数分析设备间相对介损数据的变化情况，进而对其长期变化情况进行横向和纵向的综合分析，最终实现对设备绝缘状态的准确监测。通过实验室内模拟设备的绝缘监测，验证了此改进的相对测量法能有效监测定位故障设备。本文研制了基于光脉冲同步触发和光传输技术的光纤数据采集系统，可实现设备泄漏电流信息的同步采集并具有极强的抗干扰能力；并以LabVIEW虚拟仪器以及SQL Server2005数据库管理工具为软件开发平台，依据相对测量法监测思想，开发了变电站电容型设备绝缘在线监测软件系统。最后，介绍了该系统在变电站现场的初步安装运行情况，系统监测结果与设备绝缘状态相符。