目前,三维金属/介质复合结构的电磁散射计算因其广泛的应用而越来越受到国内外研究学者的重视,已开展了相当数量的研究、分析和讨论。本文基于有限元/边界积分方法来展开研究的,主要包括两部分:第一部分为基于四面体单元的低阶矢量有限元/边界积分方法;第二部分为基于曲六面体单元的高阶矢量有限元/边界积分方法。首先,本文回顾了计算金属/介质复合结构电磁散射的三种主要数值方法,即微分方程法、积分方程法和混合方法。对各方法特点、适用范围作了全面的对比、分析。第一部分中,本文详细研究了有限元/边界积分方法的原理及数值实现。其中,边界积分部分考虑到收敛特性及内谐振问题,而使用TENENH方程。再一步,通过引入加权系数实现方程的不等权组合,可进一步改善矩阵性态。接着,研究了有限元/边界积分系统方程组的求解算法。由于系统方程组系数矩阵部分稀疏、部分密集的特性,而采用混合算法。在混合算法的每一步迭代过程,都涉及有限元方程组的求解。考虑到有限元系数矩阵对称、带状、稀疏的特性,研究了其存储方式及其方程组求解的一般算法。最后,将有限元/边界积分方法用于三维金属/介质复合结构电磁散射特性分析。第二部分中,发展了一种基于曲六面体单元的高阶矢量有限元/边界积分方法,并应用于三维金属/介质复合结构的电磁散射特性分析中,取得了比传统低阶矢量有限元/边界积分方法明显的优势。并针对高阶方法得到的有限元系数矩阵具有严重病态性,提出了列选主元的ILU预条件来加速GMRES迭代算法对有限元方程组的求解,获得了很好的收敛效果。本项研究工作作为三维金属/介质复合目标电磁散射特性分析的基础研究,通过矢量有限元/边界积分方法对该类问题的精确有效的分析提供了强有力的方法途径。