光纤无线通信(ROF:Radio-over-Fiber)融合了两种常规技术——无线传输和光纤有线传输。作为一种既能增加容量又能降低成本的技术,它可以满足人们对移动性和带宽的需求,已成为当前通信领域的一个研究热点。毫米波调制和基站简化是实现ROF通信的两个重要的关键技术,本文利用模拟仿真和实验的方法对这两个技术进行了研究,取得的主要成果如下:首先,提出了一种应用于ROF系统中的双边带调制产生光毫米波的方法,模拟仿真和实验证明该方法产生的光毫米波能有效克服光纤色散引起的信号时延所导致的基带信号退化,适合于长距离传输。该方法直接采用双边带调制和滤波产生两个边带信号,用光交叉复用器分离上、下边带,将基带信号只调制到其中的一个边带模上,然后再与未经调制的另一边带信号进行耦合产生光毫米波信号,这样可以抑制码间串扰。从理论上对该毫米波的色散特性进行了分析,发现毫米波的接收功率不会周期性的衰减。通过系统仿真和实验研究,验证了理论分析结果并比较了毫米波信号的功率代价和眼图。结果表明,下行链路信号通过光纤能传输更长距离而不需要色散补偿,误码率低。其次,提出并验证了基于光载波重用实现基站简化的全双工ROF通信系统,该系统配置简单,代价低,功率利用率高。利用光相位调制器和光交复用器相结合产生调制下行链路数据的密集波分复用的光毫米波信号,同时实现了上行链路的光载波重用。利用数值仿真比较了信号传输不同距离后的功率代价和眼图。结果表明,采用最佳射频信号驱动相位调制器,避免了高阶边带的产生,并极大地降低了色度色散的限制。通过分析其上下行链路的误码率性能,发现传输40km后的功率代价都小于2dB。