随着发展5G移动通信的快速商用以及6G移动通信预研的展开，无线移动通信的载频将推向毫米波以上的频段。传统的微波振荡器例如晶振和电振荡器随着输出频率升高至毫米波，其相位噪声性能会显著劣化。基于微波光子技术的光电振荡器(optoelectronic oscillator，OEO)所产生的微波信号因同时具备超高频率和超低相位噪声的特性，在未来5G移动通信以及微波光子系统中拥有更加广泛的应用前景。目前OEO由于存在着稳定性较差、体积较大等问题，难以得到广泛的商用。因此，研究超低相位噪声、高稳定性、大频率调节范围、紧凑型OEO已刻不容缓。
　　本文致力于研究超低相位噪声、高稳定性、大频率调节范围、紧凑型OEO，并在此基础上探讨OEO在微波光子系统中的应用。论文的具体内容下：
　　(1)研究了单环OEO、双环OEO以及可调谐OEO的基本工作原理，包括OEO的基本结构、开环传递函数、OEO的阈值条件、振荡频率以及噪声特性。通过理论推导结合仿真验证的方式对比分析了不同结构单环、双环OEO的优缺点以及OEO的频率调节特性。
　　(2)提出了两种偏振态自稳定双环OEO。通过法拉第旋转反射镜(Faraday rotator mirror，FRM)解决了偏振复用双环OEO输出随外界环境变化导致的功率稳定性问题。实验验证输出光功率在3分钟内波动仅为0.05dB。通过偏振相关相位调制器和起偏器实现了结构简单的相位调制到强度调制(phase modulation to intensity modulation ， PM-IM)转换方法。实验测试了基于马赫-曾德尔调制器(Mach-Zehnder modulator， MZM)的偏振态自稳定双环OEO，产生信号的边模抑制比和单边带相位噪声分别为69dB和-116dBc/Hz@10kHz。实验测试了基于偏振相关相位调制器的偏振态自稳定双环OEO，产生信号的边模抑制比和单边带相位噪声分别为63dB和-114.1dBc/Hz@10kHz。
　　(3)提出了两种基于多芯光纤的结构紧凑的宽带可调谐OEO。通过异质多芯光纤和PM-IM转换提升了OEO的频率调节范围。仿真测试了其频率调节范围为10GHz到30GHz，单边带相位噪声为-149dBc/Hz@10kHz。通过偏振态自稳定技术和多芯光纤提升了OEO的输出频率和输出功率稳定性，实现了稳定且结构紧凑的宽带可调谐OEO。实验测试了其频率调节范围为3.5GHz到17.1GHz，边模抑制比和单边带相位噪声分别为61dB和-100dBc/Hz@10kHz。一小时内频率漂移和功率抖动分别为0.59ppm和0.44dB。
　　(4)提出了基于光IQ调制器的微波光子射频前端。该方案使用一个光IQ调制器同时实现了射频信号自干扰消除、OEO以及下变频。实验测试了自生本振信号的边模抑制比和单边带相位噪声分别为52.65dB和-108.66dBc/Hz@10kHz。一小时内频率漂移和功率抖动分别为4ppm和0.51dB。实验实现了将中心载频12.6GHz射频信号下变频至2.6GHz。