近年来,移动互联网的迅速发展颠覆了传统的移动通信业务模式,为用户提供了前所未有的使用体验,深刻影响着人们工作的方方面面。同时,移动终端的数据传输速率迅速提高,促进移动互联网的进一步发展,使得未来移动数据流量成千倍增长。新兴的物联网使得移动通信技术渗透到更加广阔的行业和领域,车联网、未来移动医疗、智能家居等促进物联网发展的应用爆发式增长,在数以万计的设备网络接入给移动互联网带来无限生机活力的同时,也给移动通信带来新的挑战。随着低频段频谱资源的逐渐拥挤,无线通信系统载波需要更加丰富的频谱资源。毫米波,频段为30GHz～300GHz,具有丰富的频谱资源,能够满足业务量急剧增长的需求,被认为是未来移动通信技术极具潜力的选择。但是目前直接使用毫米波载波传输无线信号存在传输损耗大和信号电域处理难度大等问题。光载射频技术(Radio over Fiber,RoF),应用微波光子学技术将毫米波信号调制到光波上,并利用光纤进行远距离传输的一种微波毫米波信号传输技术,是解决高频无线毫米波信号在大气中传输距离短的有效方法,被认为是未来高频毫米波无线接入网络的一种极具潜力的传输技术。光载毫米波产生技术是RoF技术关键技术之一,矢量调制毫米波信号具有更高的频谱效率,高品质的矢量光载毫米波信号的产生技术是该领域的热门研究方向。本文在综述RoF系统和光载毫米波产生技术的基础上,深入分析了矢量毫米波信号产生过程中使用的外部调制和预编码技术,并对色散对毫米波传输的影响进行了理论分析和推导,通过深入分析RoF技术中矢量毫米波信号倍频产生技术的机理,提出一种基于相位调制的光学五倍频8PSK毫米波信号产生方案和一种适用8QAM/16-star QAM毫米波信号的光学九倍频产生方案,具体研究工作如下:(1)通过对RoF系统中使用相位调制器(Phase Modulation,PM)倍频产生毫米波信号的机理的深入分析,结合对矢量信号在调制过程中发生的非线性变换特点,发现光相位调制器输出的光谱中,一阶和四阶边带几乎同时达到最大值,且零阶和二阶边带却很小,考虑到8PSK信号的相位特点,提出一种五倍频8PSK毫米波信号产生方案。传输信号在预调制前后,星座点间的欧式距离保持不变,相较于传统预编码倍频产生毫米波信号的方案,该方案产生的信号拥有更好的抗噪声能力。通过对所提出的方案进行了详细的理论分析,并搭建了的RoF仿真链路,仿真得到的星座图和误码率(Bit Error Ratio,BER)曲线表明产生的8PSK毫米波信号具有良好的性能,验证了所提出方案的可行性。(2)通过对基于非线性相位调制的矢量毫米波信号产生机理深入分析,提出一种同时适用于8QAM和16-star QAM光载毫米波信号的九倍频产生方案。利用8QAM和16-star QAM信号相位信息的周期性特点,无需对其进行相位预编码,在接收端可以直接恢复其相位信息。通过理论推导表明该方案结构简单,能够避免高阶QAM毫米波倍频产生所需的相位预编码步骤,且产生的16-starQAM毫米波信号相对于矩形16QAM信号在无线传输方案中拥有更好的抗噪声性能。在仿真平台上搭建RoF链路,仿真星座图和BER曲线表明产生的8QAM和16-star QAM毫米波信号均具有良好的性能。