积分方程数值计算方法为实际工程提供有效的分析结果，具有低成本、周期短、效率高、人为误差最小、可重复验证、可靠性高等优点。积分方程方法(Integral Equation Method简称IEM)作为计算电磁学领域的主要方法，在实际电磁工程中具有十分重要的研究及应用价值。由于自动满足远场辐射条件，无须设置截断边界及吸收边界条件。相比微分方程方法，具有更少的未知量数目。但是，积分方程方法在超电大尺寸目标、多尺度目标、复杂金属介质复合目标等方面也面临着计算机存储量大、矩阵病态难以正常迭代收敛的挑战。为克服这些挑战，近年来一些基于迭代求解技术和直接求解法的快速算法得到了迅猛发展，基于积分方程的区域分解方法和H-matrix方法就是其中的典型代表。本文主要研究H-matrix方法以及在积分方程求解电磁问题中的应用。针对积分方程方法得到的低秩矩阵， H-matrix方法可以实现矩阵高效压缩，进而达到减少计算机存储量的目的。H-matrix是一种纯代数算法，与积分方程积分核的具体形式无关，不依赖于具体的基函数和权函数形式，通用性强。本文首先介绍了积分方程的基本原理，并介绍了积分方程的数值求解技术-矩量法，描述了矩量法求解的两种方法即迭代求解技术和直接求解技术。在迭代求解技术方面，详细介绍了广义最小残差法(Generalized Minimal Residual: GMRES)迭代和共轭梯度迭代技术(Conjugate Gradient: CG)迭代两种方法。在直接求解法方面，重点介绍了LU分解和自适应交叉近似(Adaptive Cross Approximation:ACA)方法的实现原理。给出了应用迭代法求解涂覆问题的矩阵方程的算例。其次，详细介绍了H-matrix的原理及具体实现的过程，同时结合矩量法求解电磁问题。分别针对理想导电体、介质体、介质金属复合体研究了H-matrix结合表面积分方程、体积分方程、体表积分方程时内存压缩率问题，得出H-matrix在求解介质问题时更能体现出其高效的矩阵压缩优势。再次，研究了H-matrix方法与多层快速多极子方法（MLFMA）结合的高效方法。针对附近区阻抗矩阵存储和矩阵矢量相乘，采用H-matrix方法替代传统的矩量法计算，进一步降低了计算机存储量，提高了计算效率。进一步考察了MLFMA与H-matrix混合方法的精度、效率等参数。同时结合体表积分方程，计算了天线介质罩、涂覆导弹等目标电磁散射。最后，为有效解决一些复杂目标的矩阵方程迭代收敛问题，研究了基于H-matrix方法的多层稀疏近似逆方法（MLSAI）预条件技术。通过H-matrix方法实现多层矩阵压缩，得到的多层稀疏近似逆（MLSAI）预条件子可以大大改善矩阵性态，加速迭代收敛。成功计算了诸如模型飞机、杏仁核等复杂目标，证明了该方法的有效性。