纳米光子结构可以在亚波长尺度调控电磁波与物质的相互作用,在光学传感、能源转化、电磁隐身等应用中不可或缺。高效设计和制造纳米光子结构,实现光子信息的调制和读取,将极大推动上述技术的发展。在传统设计中,设计依赖于设计者的直觉和经验,需反复迭代优化以在获得目标电磁响应,这通常需要使用大量的计算时间和资源。而且随着现代器件结构复杂化和精细化程度的提高,数值计算工具在巨大的参数空间里搜索全局最优解仍是一个难题,极大的阻碍了多功能纳米光子器件的高效设计与进一步发展。基于机器学习的神经网络算法以其快速性、精准性、大容量与纳米光子器件设计实现了完美结合,是目前快速发展的一个交叉研究领域。通过从足量的训练数据中学习,神经网络可以准确地捕捉到纳米光子几何结构、材料、介质环境等参数与其电磁响应之间的物理关系,因此可用于高效和准确的正向预测和逆向设计。本文在前期工作基础上,通过比较和创新神经网络结构和算法,实现了等离激元纳米天线及硅结构色等纳米光子结构的设计。本文首先以蝴蝶结型等离激元纳米天线为研究对象,利用FDTD仿真工具仔细探讨了其远场光谱响应对于结构参数的高度敏感性和非唯一性等特点。通过构建串联网络和迭代网络用于逆向设计远场光谱,探讨并对比了两种网络模型的准确性、复杂度和训练时长等因素,研究成果为此类结构设计的网络模型选择提供了参考。而在等离激元纳米天线近场增强性能的研究中,本文进一步优化了网络结构和训练进程,改进了数据处理方式:采用对数法消除了场强数据之间的数量级差,有效缩小了数据范围并保留了原数据特征;MAE代替MSE损失评价方式,能更好的处理离群值和异常值。这两项发现为处理具有场强类数据特点的网络模型提供了范本。优化后的网络可实现对纳米天线的近远场特性的协同设计,可将其应用于局域等离激元和SERS协同传感的多功能光子器件。最后,本文结合新兴的硅结构超表面,采用MATLAB生成矩形、圆形、环形、十字形等多种二维结构作为输入数据集。通过FDTD仿真导出反射光谱,计算结构色xyY值作为输出数据集,扩大了色度覆盖面积。创新性的采用卷积神经网络替代串联网络,实现了多种二维图像结构色的高自由度预测,并展现了良好的预测精度。此外,纳米光子结构的电磁响应除受到几何结构影响外,往往还决定于周期、高度、材料折射率等极为重要的因素。因此,本工作在前人的基础上提出了新型预测神经网络,作为高自由度设计纳米光子结构的通用方案。并且,通过在硅超表面中协同设计几何结构和周期的算法,成功证明了神经网络预测的优越性。本文展示了深度神经网络作为一个强大的设计工具,有助于实现纳米光子器件的高性能设计。文中所提出的相关设计思路和改进技术为未来发展高效的多功能纳米光子器件提供了重要参考。