自从在1973年首次理论预言,光孤子在单模光纤(SMFs)中的研究便吸引了广大研究者的兴趣并对其进行了充分的理论与实验研究。非线性薛定谔方程(NLSE)是描述单模光纤中光脉冲演变的主要传输方程,在其中存在许多独特的光孤子现象。同时该方程也描述了许多其他物理系统中的非线性波传输特性,例如磁性薄膜中的自旋波,水槽中的水波,玻色爱因斯坦凝聚态中的物质波等等。因此,对于单模光纤中孤子形成及特性的研究不仅具有基础的理论价值,而且也可以帮助我们更深入的理解其他物理系统中的非线性现象。特别是相比于其他物理系统,单模光纤中的孤子形成在实验中更容易得到与控制,这使得单模光纤成为了研究非线性孤子现象的理想平台。物理上来说,光脉冲在单模光纤中逐渐演化为光孤子需要光纤色散与自相位调制之间的脉冲展宽与压缩作用相互抵消。依据光纤色散符号的不同,单模光纤中将存在亮孤子或者暗孤子,具体来说亮孤子存在于反常色散光纤中,表现为局域的钟形脉冲,而暗孤子则存在于正常色散光纤中,表现为连续波背景上的强度凹陷。亮孤子与暗孤子的另一个重要区别在于,形成亮孤子总是需要特定的初始脉冲强度阈值,而暗孤子的形成则是无阈值的,任意的初始强度凹陷都将逐渐演化为一个或多个暗孤子。光纤激光器系统主要由各种不同的光纤所构成,是研究和产生标量及矢量光孤子的理想研究平台。与单模光纤有所差异的是,在光纤激光器中,光脉冲向光孤子的演变是多种因素共同作用的结果,包括腔内平均色散,平均非线性,腔内增益饱和,增益带宽滤波以及饱和吸收特性等。严格来说,光纤激光器中所产生的光孤子应该被称为耗散孤子,并由金兹伯格朗道方程(GLE)所描述。但需要注意的是非线性薛定谔方程中所描述的光孤子当光纤激光器满足特定条件时同样存在。在光纤激光器中,亮孤子可以在被动锁模的光纤激光器腔中产生,而暗孤子可以通过在激光腔内加入反饱和吸收效应进行筛选和稳定。在本论文中,主要研究了光纤激光器这一耗散系统中的多样孤子动力学特性,不仅对光孤子的研究具有基础的理论价值,而且对理解光纤激光器工作原理进而改进其性能,并将光孤子应用于未来光通信系统中具有重要的实用价值。研究的主要内容如下:第一,建立描述光纤激光器的平均化方程,该方程可以将复杂的光纤激光器系统简化为由单一方程描述的简化系统,方便了我们对光纤激光器这一复杂系统中光孤子的理论研究。同时,我们设计并编写了完全模拟光纤激光器系统工作状态的数值模拟方法,该方法不同于平均化方程的简化系统,目的是实现光纤激光器的所有细节,该程序能够重现绝大部分光纤激光器中得到的实验结果,为解释光纤激光器中的实验现象提供了数值依据,也提供了实验研究之外的更加快捷与节约的研究方法。第二,结合理论与数值模拟方法,我们研究了光纤激光器中的调制不稳定现象以及与其相关的Peregrine孤子现象,并进一步研究了光纤激光器中所独有的腔调制不稳定性现象。同时对于反常色散腔光纤激光器中饱和吸收对亮孤子的影响,以及腔内增益带宽影响下的腔孤子产生现象进行了详细研究。第三,研究了正常色散腔光纤激光器中在增益带宽影响下系统中所产生的高重复频率暗孤子串现象,以及腔内是否存在反饱和吸收对暗孤子形成的影响,并对含反饱和吸收的光纤激光器中矢量暗孤子形成进行了详细研究。第四,研究了使用非线性偏振旋转方法的正常色散腔光纤激光器中,耗散亮孤子以及暗孤子之间的相互转化现象。此外我们还研究了光纤激光器中所存在的其他特殊形式的孤子现象,如畴壁孤子与反暗孤子的形成。