磁光非线性光纤是一种同时具有光纤非线性效应和磁光效应的特种光纤，研究导波光在磁光非线性光纤中的耦合传输理论，对设计和开发磁控光纤信息处理器件具有重要现实意义。论文的主要研究内容包括：1.根据导波光微扰理论，将光纤磁光效应和非线性效应引起的电极化张量作为微扰，推导了连续导波光情况下的简并和非简并磁光四波混频耦合模方程。通过对各向同性磁光非线性光纤中四波混频参量过程的解析解分析表明，利用磁光耦合系数的波长依赖特性，可磁控四波混频的相位匹配条件。2.实验考察了磁光效应对光纤四波混频作用的影响，测试了四波混频偏振依赖性。实验表明，当导波光为相互正交的线偏振光时，磁控四波混频效果最为明显。利用磁光效应对四波混频偏振依赖性的影响，可实现不同范围的磁场测量。研究还表明，施加适当的外加磁场可使四波混频效率得到进一步提高。3.采用龙格—库塔法分析了光纤费尔德常数的波长依赖性可以忽略时线双折射磁光非线性光纤中左旋圆偏振光参量增益的磁控特性，指出了实验中采用较高费尔德常数非线性光纤的必要性。优化双折射大小可以获得最大的参量增益，并根据参量增益对磁光耦合系数的单调依赖特性，适当选择光纤长度、泵浦功率以及输入导波光的偏振态，可使参量增益的磁可调范围大大提高。4.对于导波光正交偏振态入射光纤的情形，分别研究了“单极性”和“双极性”两种磁场分布结构下光纤四波混频效应对非均匀磁场的依赖特性,重点考察了磁场占空比的影响。