电磁仿真软件结合全局优化算法是近年来用于天线设计优化算法的一种主流方法,但是由于仿真软件的仿真时间较长,导致该方法效率很低。所以寻找替代仿真软件模型来进行优化成了国内外研究方向,比如支持向量机(Support Vector Machines,SVM)、人工神经网络(Artificial Neural Network,ANN)、高斯过程(Gaussian Process,GP)等建模方法。本文主要研究基于深度学习中的卷积神经网络(Convolutional Neural Networks,CNN)结合粒子群优化算法(Particle Swarm Optimization,PSO)以及GP所建立的网络模型。该网络将GP代替传统CNN的全连接层,在保留卷积神经网络和高斯过程优势的同时,使用CNN中的卷积层和池化层来减小输入参数的维数,使用GP拟合输出,同时使用粒子群算法对网络结构参数进行寻优训练。本文提出的建模方法可以对问题的维度进行压缩,进而减少样本的需求量,在保证建模精度的情况下有效提高建模效率。将该建模方法用于天线设计,取得了良好的优化设计效果。本文给出的深度高斯过程网络模型可以代替优化过程中的电磁软件,在保证设计精度的情况下减少优化所需时间。主要研究如下:(1)介绍了卷积神经网络、高斯过程建模以及粒子群智能算法的基本原理,同时阐述了利用Matlab直接调用电磁仿真软件HFSS的方法。(2)研究了CNN的结构参数,并将PSO算法代替传统反向传播算法(Back Propagation,BP)用于CNN优化,建立PSO-CNN网络模型。将PSO-CNN网络模型代替耗时的全波电磁仿真,并对碎片式天线的优化设计,证明了该网络模型的有效性。(3)将GP与CNN相结合,研究并建立了深度GP网络模型(Deep GP Network,DGPN),并运用PSO算法进行网络的全局优化。文中通过移动终端的多频带微带天线以及SIW孔径耦合微带贴片天线的优化设计证明了该模型具有实用价值。(4)将CNN嵌套在GP模型的核函数参数寻优中,研究并建立了深度高斯过程模型(Deep GP,DGP),通过带E型槽的超宽带(Ultra Wide Band,UWB)单极子天线和新型左右手单元传输线(CRLH-TL)天线进行优化设计,证明该模型的可行性。