随着现代计算机科学科技的提升,以及无线通信技术在往高频方向发展,电子通信系统设计的越来越小,越来越精密,其工作环境也日益复杂,所以对于目标的电磁特性分析就成为了电磁学领域研究的热点,相比于使用实验测量的手段,利用数值仿真的技术更具有高效率、低成本等优势。如今计算电磁学的各种理论已经被广泛应用于各种电磁问题,也在应用电磁数值仿真技术方面做了许多的研究,但是在面对有着多层介质的复杂电磁仿真问题时仍然存在挑战性。由于射频集成电路是平面的金属介质堆叠结构,使用平面分层格林函数可以将介质的效应包含在内,所以介质层不需要进行网格剖分,从而减小了计算量。本文的工作主要是对射频集成电路的平面多层格林函数进行了研究并提出了一种新的混合快速汉克尔变换（Fast Hankel Transform,FHT）方法。首先,由于传统的FHT方法在计算平面多层介质的空间域格林函数时,因为积分路径上的分支切割奇点和表面波极点,难以得到准确的数值计算结果,虽然可以通过将汉克尔变换从复平面上的实轴到第一象限的积分路径进行变换,这样可以明显的避免奇点,但是积分核的参数却变成了一个复数,因此不能直接使用FHT方法进行求解。本文在传统的FHT方法进行了一些改进,将具有复数参数的贝塞尔函数表示为含有参数实数部分的贝塞尔函数和含有参数虚数部分的贝塞尔函数乘积项的和,克服了传统FHT方法无法处理半开放和开放的多层介质问题,同时克服了奇异点带来的计算不准确问题。然后,在改进FHT方法的基础上整合了最陡下降路径（Steepest Descent Path,SDP）方法以及结合了拉格朗日插值技术,使用该方法极大的降低了平面分层介质电磁模拟仿真时间,且对于电大尺寸的电路设计以及设计很精密的芯片的电磁仿真有着准确的数值计算结果。对于一般的多层介质问题,整合后的混合FHT与传统的SDP方法相比,在消耗差不多的计算机内存资源情况下,计算时间减少48%以上,本文提出的方法不仅扩展了传统FHT方法的适用性,并且提高了格林函数计算的效率,尤其在复杂的多层介质问题中效果更加突出。最后,为了验证所提出方法的有效性,本文将提出的方法应用于集成电路仿真的计算当中,将所提出方法的计算结果与实验测试结果以及商用软件的仿真结果进行对比,证明了本文设计的方法的正确性。