光孤子通信系统经过十余年的研究，已建立了比较完整的光孤子通信理论体系，基本解决了各种实验系统方案和系统设计方法以及各种关键技术，但是随着复用信道的增加和速率的提高，脉冲宽度将越来越窄，直到运用飞秒(FS)级的光脉冲运载信息，三阶色散和高阶非线性效应增大了定时抖动，影响孤子通信系统性能。本文针对高速孤子传输系统中的定时抖动现象做了一系列的研究工作：　　 首先，分别介绍了超高速光孤子传输系统和定时抖动的概念、特性，对国内外现有的研究工作做了总结和比较。其次，分别讨论了孤子通信系统和定时抖动的理论模型，重点介绍了两种主要的定时抖动引起因素，包括G-H效应和高阶效应，详细介绍了定时抖动的控制方法。再次，采用时域和频域复合控制方法，建立了光脉冲的传输方程，研究了高阶效应条件下短皮秒光孤子系统中抑制孤子自频移(SSFS)和定时抖动影响的可行性和有效性；采用变分法分析了高速啁啾高斯准孤子在三阶色散、自陡峭效应和自频移条件下的传输演化特性，总结出调制器通带带宽△τm、滤波器通带带宽B∫、插入调制器和滤波器的距离间隔Lm对定时抖动起控制作用，得出高阶效应引起的定时抖动的计算方法和高速孤子系统所要求的容差，并对系统的稳定性做了数值分析；在考虑三种高阶效应（三阶色散、自陡峭效应和受激Raman散射）的条件下，对一个典型的时频复合控制孤子系统进行仿真，得到了一种理想的系统定时抖动控制方法：用导频滤波控制方法抑制高阶效应导致的定时抖动，用时域控制技术抑制其它因素导致的定时抖动。该法数值模拟表示为：系统控制强度较强时，结构参数Bf、Lm、Aτm较小，从而定时抖动方差值亦较小，控制作用明显，系统性能指标较高，但控制强度不宜过强，以免导致孤子能量损失过大。最后，设计了一个时频复合160Gb/s高速孤子传输系统并进行数值模拟，验证了系统的稳定性，再对系统的定时抖动进行数值模拟，对仿真结果进行分析，得出本文采用的方法对孤子传输系统的定时抖动现象的控制作用是有效的。