宽带模拟光纤传输系统因为相较于传统同轴电缆传输方式具有巨大优势,而得到世界各国越来越多的重视。其特点包括质量轻、体积小、损耗小、高带宽和抗电磁干扰能力强等。尤其是在机载、舰载和星载等空间狭小环境中的应用,其优势就显得更加明显。宽带模拟光纤传输系统是微波学和光子学的一个结合,属于微波光子学的一个重要内容。对于宽带模拟光纤传输系统的研究主要集中在如何提高其增益、降低噪声系数和提高无杂散动态范围,尤其是如何提高无杂散动态范围。因此,本文对基于相位调制单边带方式的宽带模拟光纤传输系统进行了研究,试图提高系统性能。论文研究工作分为如下四个部分。第一部分,指出模拟光纤传输系统的研究背景和意义,分析了其国内外的研究现状,调研了目前国内外的研究成果并进行了讨论。第二部分,研究了模拟光纤传输系统的模型,讨论了其主要器件以及性能指标,为后面的研究提供理论基础。第三部分,针对相位调制单边带系统进行了研究。首先对各性能指标进行了理论分析并仿真分析了系统参数对它们的影响,为系统设计提供理论基础。其次,分析了中心载波抑制对于相位调制单边带系统的影响,通过理论分析和实验验证得到最佳中心载波抑制比例,以此获得了系统最佳噪声系数、增益以及无杂散动态范围。此外,提出了基于波分复用系统(Wavelength Division Multiplex,WDM)的双相位调制器并联的高线性模拟光纤传输系统新思路,通过理论分析和实验验证得到系统的无杂散动态范围提高7dB。最后,设计了一个满足2-6GHz的低噪声微波放大器,通过仿真分析,验证了该放大器能有效满足指标要求。第四部分,对相位调制单边带系统进行了实验研究。相位调制单边带利用了相位调制器的优点并且可以减少光纤色散的影响。通过测试其各个性能指标,发现相位调制单边带系统在损失一个边带信息的情况下,可以达到理想的性能。