移动通信在20多年的时间里得到了飞速的发展,给人们的生活方式、工作方式以及社会的政治、经济等各方面都带来了巨大的影响。为了支持移动通信的高速发展,需要大量的频谱资源,毫米波(millimeter-wave, mm-wave)频段拥有巨大的带宽,可用于未来的无线通信和空间通信中,且能够提供大容量服务,但是毫米波信号由于频率很高,在自由空间传输时损耗很大,严重的影响了其传输距离。针对毫米波传输距离受限的问题,基于毫米波射频拉远的光载无线通信(Radio over Fiber, RoF)技术应运而生。在光载无线通信系统的接收端采用相干探测的方式能够实现对光信号的线性探测,采用数字信号处理(Digital Signal Processing,DSP)技术能够补偿信号的传输损伤。在信号传输的过程中如果有一段光纤断裂或者达不到,可以在这一段用无线毫米波传输代替光纤传输,即光纤无线一体化系统。针对国内外的现有研究情况,对光载无线通信中基于外调制器的高阶矢量毫米波产生技术、相干光通信中的载波相位恢复算法以及光纤无线一体化系统的理论和技术等进行了深入研究,实现了基于单一相位调制器产生高阶矢量毫米波的技术、优化了载波相位估计的计算复杂度、提出了高频谱效率低成本的光纤无线一体化系统的实现方案。本文的主要工作和创新点如下:1、提出并实验论证了一种使用相位调制器(Phase Modulator, PM)并结合预编码技术产生光子倍频16-正交幅度调制(16-Quadrature Amplitude Modulation, 16-QAM)矢量毫米波信号的方法。针对QPSK调制格式的毫米波信号的频谱效率较低,且基于马赫曾德尔调制器(Mach-Zehnder Modulator, MZM)产生的毫米波信号的光信噪比相对较低,稳定性也相对较差的问题,提出并实验论证了一种使用单一的相位调制器并结合幅度和相位预编码技术产生光子倍频16-QAM矢量毫米波信号的方法,相位调制器被一个频率为20 GHz的2 Gbaud 16-QAM调制的预编码矢量信号驱动。将产生的40 GHz光射频信号在光纤中传输了 22千米,使用光探测器(Photodiode, PD)进行外差拍频后得到的频率为40 GHz的电矢量毫米波信号呈现规则16-QAM调制格式,且误码率(Bit Error Ratio, BER)低于3.8×10-3的硬判决门槛。这是首次报道的基于单一相位调制器产生高阶QAM矢量毫米波信号。2、提出了一种基于改进型正交相移键控(Quadrature Phase Shift Keying, QPSK )分区算法的二阶载波相位估计(Carrier Phase Estimation, CPE)算法。针对现有的盲相位搜索(Blind Phase Search,BPS)算法计算复杂度过高的问题,提出了一种基于改进型正交相移键控分区算法的二阶载波相位估计算法,该算法的第一阶采用传统的基于部分星座点的P3算法进行粗估计,第二阶采用本文提出的改进型的QPSK分区算法补偿剩余的相位噪声。仿真结果表明该算法的性能与BPS算法相近,但计算复杂度比BPS算法降低了约13倍。3、提出并实验论证了一种基于16-QAM调制和相干检测的Q波段光纤无线一体化系统。针对基于QPSK调制的光纤无线一体化系统频谱效率较低,不适用与未来的高速光纤通信系统的问题,提出并实验论证了一种基于16-QAM调制的Q波段光纤无线一体化系统,即80 Gb/s的偏振复用16-QAM信号依次在单模光纤有线链路中传输50千米,随后在2×2多输入多输出无线链路中传输0.5米,最后又在单模光纤有线链路中传输50千米。在接收机中采用传统的常多模算法实现偏振解复用和最小化两个偏振方向之间的串话。这是第一次在Q波段使用光纤无线一体化系统传输高阶调制和偏振复用的信号,频谱效率从QPSK的2bit/s/Hz提高到了偏振复用16-QAM的8bit/s/Hz。4、提出并实验论证了一种在接收机侧采用直接调制激光器(Directly Modulated Laser, DML)实现电/光转换的W波段光纤无线一体化系统。针对光纤无线一体化系统在接收机基站使用MZM和PM实现电/光转换成本较高的问题,提出并实验论证了一种在接收机侧采用DML实现电/光转换的W波段光纤无线一体化系统。接收到的85 GHz无线毫米波信号首先下变频到10 GHz电中频信号,以克服随后的DML的带宽不足。通过使用该方案,将10 Gb/s的16-QAM信号投递到无线链路中传输10米,并在单模光纤有线链路中传输2千米后的BER低于3.8×10-3的硬判决门槛。实验结果显示,DML可应用于16-QAM信号电/光转换。