随着网络化大数据时代的到来，互联网应用和数据通讯业务的日益剧增，对通信网络的传输容量、速率和带宽提出了更高的需求。为了适应光纤通信系统对高速、大容量、超长距离的传输要求，密集波分复用(DWDM)技术成为一种能够有效挖掘和扩充光纤网络带宽资源并被广泛应用的技术方案。DWDM系统中新型器件的研究和开发进一步推动了光纤传输系统性能的提升。多信道光滤波技术和全波长光放大技术是DWDM突破网络容量瓶颈的两项最核心的技术支撑。其中，多信道光纤布拉格光栅(FBG)滤波器凭借其灵活的波长选择和优良的窄带传输特性在波长复用解复用和增加系统容量中发挥重要作用;多泵浦拉曼光纤放大器特有的分布式全波长放大，可有效降低非线性效应和噪声，在实现宽带放大和延伸光传输距离方面具备巨大的优势。本文主要关注这两种关键光纤器件在设计层面存在的优化问题。从智能优化角度，将FBG滤波器和拉曼放大器的逆向工程设计问题转化为优化问题，运用智能计算的理论方法和技术手段，提出解决方案提升器件性能。主要研究工作如下。　　（一）多信道FBG滤波器的优化研究　　FBG凭借其尺寸小、成本低、插入损耗低、系统兼容性好等优点可以构成有良好的波长选择特性和波长精度的多信道滤波器。但是随着信道数的递增，其设计和制备工艺都会变得更加复杂和困难。针对这方面的研究，本文进行了以下工作。　　(1)针对多信道FBG滤波器设计过程中存在折射率调制峰值容易超过物理可实现范围的问题，详细剖析了造成折射率调制峰值过高的原因，提出了群延迟变量的多信道反射光谱的滤波器模型，结合离散层析法对折射率调制分布进行调整和降低。在此基础上建立了以最小化折射率调制峰值和色散误差为目标的优化模型，将FBG参数重构问题转化为群延迟变量寻优问题。本文采用了差分进化算法对模型进行求解，通过实验分别给出不同信道数不同光栅长度的FBG滤波器的设计方案，证明了该方法的有效性。　　(2)针对FBG的折射率调制峰值和色散指标之间的优化矛盾瓶颈，以Pareto多目标优化理论为指导，建立了一种更为合理有效的多信道FBG滤波器的多目标模型，提出一种将多目标进化遗传算法(NSGA-Ⅱ)和逼近理想解排序法(TOPSIS)相结合的求解思路。采用NSGA-Ⅱ求解出一系列Pareto最优解，再利用TOPSIS做进一步最优解的决策。设计结果表明了该方法能够合理地处理折射率调制峰值和色散之间的权衡，具有一定的参考价值。　　（二）多泵浦拉曼放大器的优化研究　　拉曼光纤放大器(RFA)在光纤通信系统中不仅要满足大带宽、高功率等特性，还要考虑的一个关键问题就是其增益谱的平坦化。多泵浦技术是实现RFA增益平坦度控制的一种有效途径。但是，如何高效地选取最优的泵浦波长功率配置成为多泵浦RFA设计的难点。针对这方面的研究，本文进行了以下工作。　　(1)为了解决多泵浦RFA在数学模型计算中的效率问题，本文提出了一种基于机器学习技术的解决思路。将拉曼耦合方程的非线性求解过程等价于以泵浦波长和泵浦功率作为输入、增益作为输出的多输入多输出回归问题。离线训练阶段，利用机器学习算法完成样本训练和建立RFA回归模型;在线优化阶段，将回归模型融入进化算法的优化过程，完成泵浦参数的优化配置。本文分别采用了最小二乘支持回归机(LSSVR)和极限学习机(ELM)算法进行模型构建。实验从模型精度验证、RFA增益分析和不同算法的性能对比等方面验证了该方法的高效性。　　(2)为了平衡多泵浦RFA设计中不同性能需求，本文提出了同时以最大化拉曼开关增益和最小化增益波动为优化目标的多目标模型。在上述基于机器学习的RFA模型的基础上，利用改进的强度Pareto进化算法(SPEA2)获取Pareto前沿，并从Pareto解集中选取出合适的解，最终给出详细的RFA设计方案。　　综上所述，本课题属于交叉学科应用基础研究，涉及信息学、光学等多学科领域，主要围绕DWDM系统的滤波器和放大器技术进行了探讨和分析，采用智能计算的理论方法和技术手段为光器件的优化提出新的解决思路和设计方案，进一步推进智能光器件的创新，促进光网络向宽带化、智能化、综合化发展。