本文主要研究电磁波传播问题的数值算法，工作的目的是丰富应用于无限域以及半无限域中的偏微分方程定解问题的数值计算方法，尝试解决由使用人工边界条件而导致的数值结果的不精确以及误差的不可预测性。本文以间断有限元（DG）与边界元（BEM）耦合方法的应用研究为研究课题。发展了一种杂交间断有限元（HDG）和边界元耦合方法，研究了HDG-BEM方法的耦合形式与适定性分析，并将其应用于数值模拟一些电磁散射模型。　　HDG有很多优点，例如：适合复杂几何图形和非一致结构网格；容易获得高阶精度；hp自适应和易实现并行计算。HDG方法是在单元边界上引入一个杂交变量，使得局部解可以定义，最终形成一个只包含所引入的杂交变量的线性系统。而BEM方法对开放域问题有很好的效果，边界积分方程可以自然满足场值在无穷远处的辐射条件。本文的主要思想是通过HDG方法的边界杂交变量与BEM在边界上进行自然耦合，先计算以杂交项为自由度的线性方程组，再通过杂交项的回带求解区域上的场值。与传统DG方法相比它大大减少全局耦合自由度，因此节省了计算机内存和CPU运算时间。文中分别给出了二维情况下HDG与电场积分方程（EFIE）的HDG-EFIE耦合形式，以及HDG与组合场积分方程（CFIE）的HDG-CFIE耦合形式。对HDG-CFIE做了适定性分析，对HDG-EFIE给出了具体的离散形式和程序实现步骤。我们对二维的几个经典电磁散射问题进行了数值实验，实验目的是展现HDG-BEM方法的精度和在处理含复杂介质以及求解区域为无限域问题时的优点和适应性。实验数据显示本文的方法有很好的精度和收敛速度。