随着近些年电子电力技术的进步以及使用范围的日益扩张,非线性负载也随之不断增多,特别是对于特高压直流输电系统而言,高电压、大容量的特性必然会引起大量谐波的出现,不仅影响换流站主要设备运行,更有可能危及整个电力系统的安全。为减少谐波对换流站变压器等主要设备产生的影响和危害,提高谐波检测中各项参数的准确度成为重要的研究内容。及时发现换流变压器铁芯多点接地故障情况、实时在线监测,保证换流变压器的正常运行,减少设备损坏,降低经济损失。目前,传统的谐波检测方法对于常规的智能变电站中的监测变压器铁芯接地电流值具有较高的准确率,但应用在含有大量高频谐波干扰的换流站中存在误差大,精确度低的问题。快速傅里叶变换的谐波检测方法被广泛应用在谐波分析领域,并取得显著成果。因此,本文主要研究利用卷积算法构建一种新型混合卷积窗三谱线插值法改进FFT检测谐波参数值,以及利用FIR低通滤波器的信号处理方式对噪声消除的应用。本文整体研究工作围绕卷积算法,首先利用FIR低通滤波器,设计方法为加凯泽（Kaiser）窗函数法进行高次谐波的噪声消除;其次,由于快速傅里叶变换的谐波检测方法存在频谱泄漏和栅栏效应的问题,本文选取主瓣宽度较窄的汉宁（Hanning）窗和能够自动调节主旁瓣比重的凯泽（Kaiser）窗运用卷积运算构建成一种新型混合卷积窗函数抑制频谱泄漏问题以及采用三谱线插值法抑制栅栏效应问题作为谐波检测方法。该方法利用两种窗函数的优良特性以及选取目标频点谱线附近更多的信息,能够提高谐波检测的精确度。经过仿真试验,研究了在经典信号、复杂信号和含有噪声干扰环境下的三种情况对谐波检测准确度的影响,在同等条件下混合卷积窗三谱线插值法的谐波检测精确度优于单一窗函数三谱线插值法和其他卷积窗三谱线插值法并验证了本文方法的有效性。将本文方法应用在换流变压器铁芯接地电流在线监测装置中,研究其结构原理与算法流程设计,并在现场运用谐波检测试验仪进行装置谐波叠加实验,实验结果表明,本文方法在换流站实际应用中是有效的。