由于毫米波信号在空气中衰减严重,为了保证信号在空气中的传输质量,需要采用一定的调制方式(如ASK,PSK,QAM等)来优化传输性能并提高频谱利用效率,从而有效增加传输系统的容量-距离积。射频波段的电子设备价格很昂贵,又易坏,于是借助于光学方法来对输入信号进行调制便渐渐成为研究热点之一。在光载无线系统中使用微波光子矢量调制技术,在光域上实现对信号进行复杂调制,即可高效利用频谱资源,同时又避免了电子瓶颈及电存储器的限制,具有很大应用前景。本论文针对光载无线通信系统中的微波光子矢量调制技术进行了研究,主要工作如下:(1)基于马赫曾德尔调制器(MZM)产生多进制射频ASK与QAM信号的微波光子矢量调制技术理论分析了MZM的数学模型,提出、分析并实现了几种基于MZM非线性特征的微波光子矢量调制结构,用以产生4ASK、16QAM、16ASK、非均匀16QAM以及更高阶QAM与ASK信号。实验中,使用多个MZM、激光器等光学器件,成功地实现了用光学的方法生成载波为25GHz、符号速率为1.8GBaud的4ASK与16QAM信号。在仿真部分中,对载波为40GHz的16ASK信号的微波光子矢量调制结构进行了仿真验证。(2)基于电光相位调制器(EOPM)产生射频DPASK星型及QAM信号的微波光子矢量调制技术基于电光相位调制器对输入光的速率敏感特性,提出并实现用以产生DPASK及星型QAM信号的微波光子矢量调结构。实验中,先将12.5GHz的本振时钟通过带宽20GHz的MZM调制到1539.9nm的光载波上(双边带载波抑制),后经25/50GHz梳状滤波器将上下边带分开,使其上、下边带相向通过电光相位调制器,这样上、下边带之间会产生一个受相位信号(2Gbits/s的二进制比特流)控制的相位差,再用一个10GHz的MZM来调制幅度信号(2Gbits/s的二进制比特流),经光电检测拍频以后就得到了载波25GHz的DPASK信号。将相位信号按一定比例与幅度信号相加后调制到第二个MZM上在经光电检测拍频以后即可产生星型QAM信号。