微波光纤传输技术近几十年变得越发重要,由于微波光纤传输系统使用光纤来传输信号,而光纤具有低损耗、高带宽且无电磁干扰等优点。微波光纤传输技术在移动通信、无线局域网、智能交通系统、军事等领域都发挥了非常重要的作用。但是ROF系统光调制的非线性会产生三阶交调分量,影响系统的无杂散动态范围,因此本文主要致力于抑制系统产生的三阶交调分量,提高无杂散动态范围。论文的研究工作主要分为以下三个部分。1)提出输入端增加三阶交调补偿信号的方案用于解决MZ调制非线性的问题,并给出理论分析式,为了更快速的找到补偿信号的最优值提出启发式算法来优化理论推导式。仿真结果显示,在基底噪声功率为-165dBm时输入RF频率为18GHz、18.1GHz增加补偿信号时的无杂散动态范围达到了145d B.Hz^2/3,相对于未补偿MZ调制的系统无杂散动态范围提高了40dB。输入RF频率为18GHz、18.1GHz增加补偿信号的三阶交调抑制比相对于未补偿的三阶交调抑制比增加了170dB。2)提出输入端增加三阶交调补偿信号的方案用于解决相位调制系统的非线性的问题,同时用启发式算法简化了理论公式,提高了找到补偿信号最优值的速度。仿真结果显示,在输入RF频率为18GHz、18.1GHz且在相同的基底噪声下补偿后的无杂散动态范围相对于未补偿的无杂散动态范围增加了20dB。输入RF频率为18GHz、18.1GHz增加补偿信号的三阶交调抑制比相对于未补偿的三阶交调抑制比增加了107dB。5)对输入端增加三阶交调补偿信号基于MZ调制的非线性方案进行了实验研究,实验结果验证了该方案是可行性的,当双音信号频率达到1GHz、1.1GHz且基底噪声为-160dB/Hz时,无杂散动态范围可达105dB.Hz^2/3 。