当今,由人工智能引领的新一轮技术革命和产业变革方兴未艾,在边缘计算、物联网、移动互联网和脑科学等新技术新理念的驱动下,各类业务产生的数据量呈现爆炸性增长,对光纤通信系统的传输速率、传输带宽和传输距离提出了更高的要求。全光放大器作为光纤通信系统中的关键设备之一,面临着更高增益、更宽带宽、更低噪声和更佳平坦度等放大性能的严峻挑战。随着非线性增益介质材料制造技术和高性能激光技术不断取得突破,光纤参量放大器(FOPA)为未来光纤通信的全光放大问题提供了一种可行的技术方案。基于四波混频的FOPA能够灵活调配参量增益,可在任意通信波段为信号提供高增益和宽带平坦的全光放大,而且FOPA的噪声性能更加突出,尤其是当FOPA工作在相位敏感模式时,理论上的噪声指数(NF)能够达到0dB,实现超低噪全光放大。此外,FOPA还具有超快响应、波长变换、全光采样、3R再生和相位压缩等特性。因此,FOPA作为一种超低噪全光放大器成为国内外的研究热点。本论文针对基于高非线性光纤的相位不敏感(PI)和相位敏感(PS)FOPA的增益和噪声性能进行理论和实验研究,提出了级联型相位敏感FOPA的增益均衡方案、光正交频分复用(OFDM)信号低噪传输方案和多级级联FOPA的宽带增益平坦优化方案,以满足高速率、大容量、长距离光纤通信系统的放大需求。本论文的主要研究工作和创新点包括:1.基于色散补偿光纤的PS-FOPA增益均衡方案研究在级联型PS-FOPA的增益理论研究基础上,提出了一种基于色散补偿光纤的参量增益均衡方案,该方案利用色散补偿光纤抑制信号光和闲频光在相位调整过程的色散影响,减小级联型PS-FOPA增益谱的波动。并通过10信道波分复用(WDM)信号对该方案的均衡效果进行验证。研究结果表明:该方案能够有效降低放大后WDM信号的输出光功率差,经过均衡后信道间光功率差减小了 14dB,使各信道信号均能达到无误码传输,有效提升了 PS-FOPA与WDM系统的兼容性。2.一级联型PS FOPA低噪声传输方案研究在级联型PS-FOPA噪声性能理论和实验研究基础上,提出了一种空子载波间插的OFDM信号低噪声传输方案。该方案使用相位敏感参量放大级联结构在线放大空子载波间插OFDM信号,能够有效抑制泵浦转移噪声的影响,提高光放大器的噪声性能。研究结果表明:这种空子载波间插的OFDM信号在级联型PS-FOPA中具有更好的低噪声传输特性,能够有效提高系统的传输距离。3.多级级联PI-FOPA宽带增益平坦优化方案研究在研究差分进化算法基础上,提出了多级级联PI-FOPA宽带增益平坦优化方案。通过构建多级级联PI-FOPA数学模型和改进的差分进化算法实现PI-FOPA参量增益谱的宽带平坦优化。仿真研究结果表明,经过对四段HNLF增益介质级联结构进行优化,仿真得到了400nm增益带宽、20dB平均参量增益和小于0.5dB增益波动的PI-FOPA增益谱。4.多级级联PS-FOPA宽带增益平坦优化方案研究在PI-FOPA宽带增益平坦性优化方案基础上,提出了多级级联PS-FOPA宽带增益平坦优化设计方案。利用多级级联PS-FOPA的数学模型和改进的差分进化算法实现PS-FOPA参量增益谱的宽带平坦优化,并得到最优的HNLF增益介质参数组合。仿真研究结果表明,经过四段增益介质优化,仿真得到了 225nm增益带宽、10.9dB平均参量增益和小于0.4dB增益波动的PS-FOPA增益谱。