融合光纤通信与微波技术优势于一身的微波光子学近年来备受关注。微波光子技术的一个典型应用即是光载射频通信（Radio-over-Fiber，RoF）系统，由于RoF可以提高系统传输容量、带宽和移动性而服务于固定及移动用户，其被认为是未来毫米波频段最具吸引力的宽带无线接入解决方案。光生毫米波技术对于RoF系统以及其他应用都是至关重要的。本论文主要对高质量的毫米波光学倍频产生技术以及全双工RoF传输系统进行了研究，取得了多项创新成果。首先，本文提出并仿真实现了两种新型多倍频毫米波生成方案。方案一基于一个双平行马赫–曾德尔调制器，通过简单设置可以实现十二倍频的毫米波生成，光边带抑制比（OSSR）和射频杂散抑制比(RFSSR)均高于30dB。在方案二中，利用了两个双平行马赫–曾德尔调制器的并联结构来实现八倍频或者十六倍频的毫米波产生。对两种方案的理论分析研究和仿真结果表明，射频驱动电压偏离、直流偏置漂移以及调制器消光比等参数可能会影响生成毫米波抑制比的性能。其次，基于八倍频毫米波生成和波长再利用原理，本文提出了一种成本效益高的全双工RoF传输系统。在该系统中，基站由于没有使用光源而被简化，同时在基站通过对下行链路信号波长的再利用产生的毫米波本振，可以将上行链路毫米波信号下变频到一个较低频率后再传输。该方案对光功率利用效率高，同时降低了对微波光子器件频率响应的需求，从而能够降低系统成本。理论分析和仿真实验结果表明下行链路和上行链路信号在传输过程中对光纤色散不敏感。最后，出于对太赫兹波应用需求的考虑，本文基于多倍频产生技术，探索性研究和仿真演示了太赫兹波生成方案，利用所提的十二倍频器结构得到了功率为89μW的0.3THz太赫兹波。