近年来,得益于数据获取、储存、处理等技术的进步,机器学习算法得到了快速发展。机器学习算法起初只应用于图像分析、模式识别等计算机领域,但由于其优越的性能,机器学习算法正作为一种新方法,为解决复杂电磁学问题提供了更多选择。无线通信系统是电磁学的代表性应用。为了搭建性能优良的通信系统,需要了解信道特性,并设计出满足性能要求的电磁器件。因此,本论文以信道建模与器件设计为研究方向,深入研究了相关基础理论与关键技术,提出了基于机器学习算法的高效解决方法。本论文的主要研究内容如下:首先,针对室外平原地区的无线通信,根据统计模型ITU-R P.1546建议书,建立起基于数字地图的场强预测模型。利用数字地图提供的地形信息,能够实现区域范围内的场强预测。考虑到我国幅员辽阔,地形多样,为了进一步扩展模型的适用范围,采用Deygout模型对山地和丘陵地区存在的多峰问题进行处理,计算起伏地形下信号传播的绕射损耗。将两模型进行合理结合,从而实现不同地形条件下的场强预测。由于上述方法基于统计性模型,为了弥补统计性建模精度较差的缺陷,提出了结合统计性模型与人工神经网络（Artificial Neural Network,ANN）的混合模型。通过神经网络对地形信息及场强误差之间的非线性关系进行学习,能够对统计性模型预测场强进行补偿,从而有效提高预测精度。其次,采用数据驱动的机器学习算法对时间反演通信系统的信道建模进行了研究。由于能够汇集并利用由室内丰富多径信道传递的信息,时间反演电磁波具有空时聚焦特性,有助于提升通信系统的性能。针对时间反演室内通信系统,本论文提出了一种基于经验知识的神经网络信道建模方法。利用主成分分析技术对接收信号数据进行降维,并通过神经网络对接收机位置和降维数据之间的非线性关系进行学习建立信道模型。在神经网络训练过程中,将时间反演信号的传播特性用于指导神经网络模型内部参数的优化,提高了模型的性能。以一个简单室内无线通信环境作为算例,验证了提出方法的有效性。以往时间反演信道建模采用统计性建模以及确定性建模方法,采用机器学习算法建立信道模型的研究尚属首次。在研究基于机器学习的新型电磁器件设计方法方面,对无线通信中必不可少的收发器件——天线以及具有广阔应用前景的超表面进行了研究。首先,提出了一种多分支逆建模方法,有效解决了阵列天线的方向性逆问题。与电磁正向问题具有的唯一性不同,由于存在多个结构参数与同一电磁响应相对应,逆问题中存在着非唯一性。为此,利用伴随神经网络获取训练样本数据中的导数信息,并将其用于判断非唯一性是否存在。基于单调性,将存在非唯一性的训练样本集拆分成多组,从而保证了每组样本的唯一性。将每组样本分别用于一个神经网络的训练,并将每个训练好的神经网络作为分支进行组合,从而构成整体。以偶极子均匀线阵、面阵以及稀布阵作为算例,验证了模型的有效性。相比直接逆建模方法,该方法显著提高了逆模型的精度。针对超表面设计问题,采用了一种结合传递函数（Transfer Function,TF）与人工神经网络的逆模型（TF-ANN）。利用矢量拟合技术对电磁响应进行处理,从而显著降低了逆模型的输入维度以及结构的复杂度,提升了神经网络模型的精度。以一个反射超表面作为算例,验证了方法有效性。最后,为了更加高效、简单地解决逆建模中存在的非唯一性问题,提出了一种改进型TF-ANN逆模型。在训练过程中,通过与两个预先训练的正向分支级联,对逆模型内部的权重及偏置进行优化。以一个类电磁诱导透明超表面作为算例,验证了该方法能够在样本集较小的情况下具有良好的性能。