随着通信技术的发展,基于波分复用的全光网络成为人们研究的热点。在波分复用全光网络中,存在两个迫切需要解决的问题:(1)由于光纤损耗、色散、非线性和光放大器噪声等因素的影响,光信号的质量会明显劣化;(2)由于可用波长数大大少于节点数目和用户数量,将引起波长竞争,造成系统阻塞与带宽浪费。为此,必须对光信号进行再生和波长变换。目前主要有两种方式,即光-电-光方式和全光方式。前者较成熟,但面临“电子瓶颈”问题;后者直接在光域内对光信号进行处理,无需进行光-电-光转换,可以大大节约成本。本论文对基于非线性光纤光学的全光2R再生和波长变换进行了理论分析、数值仿真和实验研究,主要工作如下:1.利用基于自相位调制(SPM)的偏移滤波方案进行全光2R再生,研究了光信号输入功率、光纤色散、滤波器带宽和中心波长等参数对系统再生性能的影响。提出了基于半导体光放大器(SOA)和色散平坦高非线性光纤(DF-HNLF)级联的波长不变全光再生方案,该方案既可以使光信号波长保持不变,又能进一步改善光信号的质量。提出了利用慢光增强非线性效应来实现全光2R再生的方案,有望实现紧凑的可集成全光再生系统。2.对基于四波混频(FWM)的偏振不敏感波长变换方案进行了研究,分别为同向双泵浦方案、正交双泵浦方案和偏振分集方案,对每一种方案进行了详细的理论分析与仿真验证。利用FWM对不同调制格式的光信号进行了波长变换,验证了其对调制格式的透明性。利用DF-HNLF中的FWM进行了波长变换实验,验证了FWM的偏振敏感性,并利用偏振分集方案有效降低了FWM波长变换的偏振敏感性。3.对单模光纤中的孤子自频移效应进行了仿真研究,发现孤子频移量随孤子脉冲峰值功率和光纤非线性系数的增加而增加,随孤子脉冲宽度和光纤色散的增加而减小。对单模光纤中的孤子自频移效应进行了实验研究,通过调节孤子的峰值功率实现了从4.29 nm到35.60 nm的连续可调频移;验证了群速度色散对孤子频移量的影响,所得结果与数值仿真结果基本一致。