我们研究一类无界域上的Helmholtz方程边值问题及其反问题，物理上对应于介质对波场的散射，包括正散射与逆散射.根据散射体的特性，散射现象可以分为简单散射和复杂散射.简单散射是指均匀背景介质中的sound-soft或sound-hard不可穿透的障碍体散射等经典的散射现象，而对予多障碍体散射、边界带有涂层的散射以及分层介质中的障碍体散射等具有复杂几何结构或者复杂物理性质的散射，通常称之为复杂散射.对于简单散射问题，已经有了很多研究工作.本文从三个方面对复杂介质的教射问题展开研究，包括对带有阻尼边界条件的散射体、多个散射体的散射和分层介质中的散射体的教射现象的研究.第一部分研究基于Dirichlet-to-Neumann(D-to-N)映射的探测方法对重建带有阻尼边界条件的散射体的问题;第二部分研究从远场数据重构边界阻尼系数;第三部分研究两类复杂散射正问题，即多障碍体散射以及分层介质中的障碍体散射.　　 首先，考虑用基于D-to-N映射的探测方法重建散射体的问题，在此框架下，研究由所有入射平面波对应的远场模式重构D-to-N映射.在第二章中，基于混合互易原理，提出了证明反演问题唯一性的新方法.其优点在于证明过程提供了重构D-to-N映射的可行的数值方案，通过对每一个过程进行细致的误差分析，建立了由有误差的远场数据重构D-to-N映射的条件稳定性估计.在第三章，进一步发展了重构D-to-N映射的数值方法.以混合互易原理为基础，将Green函数的微分运算转移到对入射点源求导，进而提出了由远场数据反演D-to-N映射的两种积分方程方法，并对其数值实现过程进行了细致的分析.数值结果表明这两种方法都具有非常理想的数值实现效果.　　 其次，在第四章中，研究了一类带阻尼边界的逆散射问题.对于此类问题，通常需要同时重建散射体的几何形状和边界阻尼.但对于很多实际问题，如军事领域中真假目标的鉴别等，散射体的几何形状是已知的，因而只需要从远场数据重构边界上的阻尼系数，就可以检测出目标的物理特性，从而辨别散射体的真伪.本文在已知散射体几何信息的基础上，发展了重构边界阻尼系数的数值方法.具体而言，从Green函数满足的齐次边界条件出发，建立了一个关于阻尼函数的恒等式.通过分析Green函数在边界上的性质，提出了由远场数据反演边界阻尼的积分方程方法，其右端项和核函数涉及到点源对应的散射波的信息，它们均可由平面波的远场模式唯一确定.此外，对重构方法的数值方案进行了分析，建立了收敛性结果.数值例子表明了此数值方法的有效性.　　 最后，研究了在声学与电磁学领域中广泛存在的对波场的多障碍散射以及分层介质中的障碍体散射，它们均包含了多重散射过程，数学上分别对应于偏微分方程混合边值问题和耦合的偏微分方程组.为了对相应的逆散射问题建立高精度的数值求解方法，有必要对这样一个全新的正散射问题展开系统的研究，本文处理此类问题的关键技术是边界分解方法.在第五章中，考虑由多个不同类型障碍体引起的声学散射问题.利用边界分解方法，将N个障碍体引起的多重散射问题分解为N个单体散射问题，并证明了这种分解的存在唯一性.注意到分解后得到的N个单散射问题通过边界条件耦合在一起，提出了解耦的Jacobi迭代方法，对该算法建立了收敛性和误差估计.数值例子很好地验证了相关的理论结果.在第六章，将此边界分解方法应用予分层介质中的障碍体散射问题.注意到波场在相邻界面之间会来回反射，我们将N层介质中的障碍体散射问题分解为N-1个透射问题和一个均匀背景介质中的障碍体散射问题.由于这些经典的散射问题仍然是耦合的，提出了解耦的迭代算法，并证明了其收敛性.　　 最后在第七章，对我们的工作做了简单的小结并展望了未来的工作。