基于光纤技术的电信网络已成为最主要的信息传输系统，无论是在陆地还是在海底，都已形成了拥有巨大传输容量的光纤链路。光纤通信技术的发展迅速，其主要因素是光纤放大器的出现，它是通过在石英或氟化物光纤中掺入诸如铒和钕之类的稀土离子而制成。放大器彻底改变了光纤通信系统的设计，包括那些应用光纤中非线性效应的光孤子系统。同时，光纤放大器的出现使波分复用(WDM)系统的大规模应用变为现实。非线性光纤光学在超大容量光波系统的设计中扮演着重要的角色，研究光纤传输系统的非线性问题变得越来越重要。　　 采用变分法详细分析了WDM色散管理孤子碰撞致频移产生的原因，通过优化色散图与光纤放大器的位置，最大程度地抑制频移的发生，考虑到碰撞位置及信号编码的随机性，研究了频移所导致的定时抖动。分析了系统有不同信号调制方式和检测方法时，四波混频(FWM)导致的功率罚的计算方法。综合考虑到WDM系统的信道内和信道间各种非线性效应的影响，采用分步傅里叶变换，分析了系统诸多参数对系统性能的影响。研究了单信道的色散管理孤子的传输特性和光纤中飞秒啁啾孤子的时域特征和频谱结构。　　 利用周期性极化的钽酸锂(PPLT)成功实现了宽线宽准连续掺镱双包层光纤放大激光的倍频，利用倍频理论解释了获得的实验结果。