具有复杂几何外形、材料组分及超电大尺寸目标的电磁散射特性研究对目标识别、目标隐身及微波成像等方面的应用意义重大。目前，计算电磁学领域中较好的快速算法，如MLFMA，可将数值求解的计算复杂度和存储复杂度降到O (N log(N))，但仍与未知量数目N相关。较高的应用频率，较大的介质电磁参数，大的几何尺寸等因素均使得数值求解的未知量数目巨大，即使使用快速算法，内存和计算时间方面的需求有时也远远超出了可承受的范围。基于简化计算模型，降低未知量数目的目的，本文在深刻认识金属目标表面的感应电流及介质目标表面的等效电、磁流应满足的物理规律以及对几类大贴片基函数的对比研究的基础上，成功设计出一种基于曲面三角形单元的，具有较强行、驻波描述能力的新型基函数。然后结合MLFMA，高效求解了金属、介质以及金属-介质复合目标的电磁散射问题。具体地，本文首先基于曲面RWG基函数和一系列正交的标量叠层多项式，构造出一类散度共形的高阶叠层矢量基函数并将其应用到MLFMA框架下，提升了各类目标电磁散射分析的能力。然后对这种基于曲面三角单元的叠层基与其他几类应用较为成功的大贴片基函数——相位提取基、基于曲面四边形单元的叠层基做了深入的对比研究，了解并掌握了这些基函数的优缺点和具体应用中的一些技术细节，为本文提出新型行驻波基函数奠定了良好的基础。然后，利用相位提取基函数能准确描述目标表面感应电流的行波成分以及高阶叠层矢量基函数能准确描述感应电流中的复杂驻波分布的特点，成功构造出一种基于具有剖分灵活性的曲面三角形单元的新型行驻波基函数。这种新型基函数在更大的贴片上也能准确描述具有任意复杂外形和材料组分的目标表面感应电流，即与低阶方法相比，可将未知量降低1~2个数量级；与高阶叠层基函数相比，可将基函数的阶数降低1~2阶。同时，本文还将新型基函数应用到MLFMA框架下，重点分析了两类典型金属目标——非光滑凸目标和强耦合目标的电磁散射特性。最后，结合表面积分方程和本文提出的新型基函数，分析了具有复杂材料组分的介质目标和金属-介质复合目标的电磁散射特性。其中，本文选用了具有良好性态的表面积分方程——混合场积分方程（CFIE）和电磁流混合场积分方程（JMCFIE）分别求解金属表面的感应电流和介质区表面的等效电、磁流，并开发出一套高效的数值代码。针对新型基函数仍具有叠层性这一特点，本文还初步分析了该基函数的自适应性，给出了基函数应用的另一种方案。利用本文改造的散度共形高阶叠层基HHOV和提出的新型行驻波基TSW开发出的高效数值代码HHOV/TSW-CFIE-JMCFIE-MLFMA，分析了几类典型目标的电磁散射特性，如介质天线罩（含金属天线部分），涂敷目标以及含有耗介质的超电大腔体。