频率域航空电磁法(frequency-domain airborne electromagnetic method)广泛运用于矿产勘查、地质填图、地下水勘查及环境检测等领域,被证明是一种行之有效的地球物理勘探方法。目前该方法的数据处理解译通常假设地下介质的电阻率为各向同性并且忽略磁导率的影响,以一维反演方法为主。然而,真实的地下介质通常是非常复杂的三维结构,并且有可能是各向异性介质。研究表明,地下有些介质的磁导率要大于真空中的磁导率,忽略磁导率的影响不仅会丢失潜在的有用信息,而且有可能得到错误的结果。再者,一维反演方法往往不能准确的还原地下三维目标体,快速、有效的高维正反演技术是迫切需要解决的问题。此外,该方法经常在山区作业,地形的影响也是一个不容忽视的影响因素。鉴于此,本文开展了起伏地表条件下的三维矢量有限元正演模拟、电导率任意各向异性三维正演模拟、考虑磁导率的三维正演模拟及起伏地表条件下的二维反演及水平地表条件下的三维反演研究。本文研究并实现了起伏地表条件下的频率域航空电磁法三维矢量有限正演模拟。将总场分解为一次场(背景场)和二次场(散射场)来消除源的奇异性,背景场在空气为背景介质的均匀全空间中用解析式计算,二次场用矢量有限元方法进行求解。针对该方法的多源特性,引入大规模稀疏矩阵共享内存并行直接求解器PARDISO实现线性方程组的快速求解,并将其与迭代算法的计算效率进行了对比研究。通过与一维解析解和三维有限差分结果对比,验证了本文开发程序的正确性,且具有较高的计算精度。然后开展了典型地形的数值模拟研究,分析了地形对观测结果的影响。借助欧拉旋转,研究并实现了电阻率任意各向异性三维正演模拟。通过与一维解析解对比,验证了其正确性。然后,对三维地质体的单轴各向异性及任意各向异性进行了系统的数值模拟研究,探讨了各向异性对电磁场分布规律的影响。研究并实现了带磁导率的三维正演模拟,通过与一维解析解对比验证了其计算精度。然后针对磁导率对不同装置、不同频率、不同飞行高度电磁场的影响进行了数值模拟研究。在总结分析磁导率对电磁场影响规律的基础上,对该方法的实际生产及资料处理给出了指导性建议。在正演的基础上,利用高斯—牛顿法实现了起伏地表条件下的二维反演算法,采用伴随方程来求解雅克比矩阵。然后对几组理论模型进行了反演试算,研究结果表明,水平共面装置横向分辨率较好而垂直同轴装置有较高的垂向分辨能力。此外,忽略地形反演会造成许多虚假异常,得到错误的结果。实现了基于非线性共轭梯度(NLCG)的三维反演。采用伴随方程来计算目标函数的梯度,并采用二次和三次插值回溯方案来计算迭代步长,以加速目标函数的收敛速度。通过几组理论算例验证了本文算法的有效性,并对不同初始模型选择对反演结果的影响进行了对比研究。本文的研究不仅对电磁波在复杂介质中传播的理解具有重要的理论价值和科学意义,而且对提高和完善频率域航空电磁法数据处理解释水平、指导实际生产,具有重要的现实意义。