在非线性光纤光学中,两束初始功率不同的耦合脉冲在光纤中同时传输时,耦合脉冲之间的相互非线性作用导致两束脉冲在时间、空间以及频域都发生了很大的变化,而在这些变化中调制不稳定性起了至关重要的作用。随着孤子俘获、泵浦探测、自聚焦以及分裂成丝等应用的深入研究,初始功率不同的耦合脉冲在非线性光纤中传输时的调制不稳定性研究显得尤为重要。首先,通过数学处理与分析,简化了弛豫介质中耦合非线性薛定谔方程的非线性响应部分,从而,得到了能反映弛豫时间以及耦合脉冲初始功率比对脉冲非线性传输影响的演化方程,并通过线性稳定性分析得到了相应的色散关系和增益频谱。其次,对弛豫介质中同时传输的耦合脉冲初始功率不同甚至是相差很大时的调制不稳定性动态进行了研究。数值分析的结果表明,当弛豫时间固定时,功率比的变化会同时引起瞬时频带和弛豫频带的变化,且随着功率比的增大,调制不稳定增益频谱的峰值逐渐减小,峰值位置向低频率方向移动,在反常色散区域,由于相位匹配引起的自相位调制的作用,调制不稳定性要比正常色散区域中的明显得多。然后从弛豫介质中不作简化的耦合非线性薛定谔方程出发,仿真模拟了耦合脉冲初始功率比对脉冲传输的影响,且仿真结果和理论数值分析的结果是一致的。最后,在理论和数值上系统地分析了固定耦合脉冲初始功率比,但其初始功率不同且相差较大时,弛豫时间对调制不稳定性增益频谱的影响。当功率比固定时,弛豫时间的变化主要是引起弛豫频带调制不稳定性增益频谱的变化,在弛豫频带中,调制不稳定性增益频谱随着弛豫时间的增大而受到抑制,即弛豫时间越大,增益峰值越小。然后通过弛豫介质中的耦合非线性薛定谔方程仿真模拟了弛豫时间对脉冲传输的影响,且仿真结果验证了上面的理论数值分析。