随着数据中心、高清视频和物联网等新型业务不断兴起,越来越多的智能设备通过有线和无线方式接入互联网传播海量信息,造成带宽资源日趋紧张。光纤通信是现代通信设施的基石,单模光纤通信系统的容量已将逐渐逼近香农极限。空分复用(SDM)是光纤通信发展进程中的新的里程碑,它将成为应对光网络流量危机的一种有效手段。光子轨道角动量(OAM)模式复用是空分复用的一个特例,近年来日益受到关注。与已经非常拥挤的低频射频频段相比,毫米波频段能提供更大的数据带宽。毫米波通信是5G移动通信的关键技术之一,能满足未来超大容量室内无线接入的需求。当前,国防、金融、政务、商业等领域的信息安全需求迫切。基于量子密钥分配(QKD)的量子保密通信网络能提高数据保护安全等级,有助于建立安全、信任、可靠的IP网络传输链路。本文围绕上述热点问题,对支持OAM模式传输的新型光纤设计、毫米波通信系统中光生毫米波信号的产生和波分复用量子无源光网络中的多载波光源进行了深入研究和分析。本文主要创新工作如下:(1)提出了一种双导模环形芯光纤结构。在整个C波段,该光纤的纤芯部分支持单模传输,环形区域支持OAM模式传输。全面分析了该光纤的色散、差分群时延、有效模场面积、不同通道间的隔离度和双折射等特性。所设计的光纤具有良好的性能参数,在下一代光纤通信系统中有重要的潜在应用。(2)提出了一种新型使用偏振特性产生四倍频毫米波信号的方案。该方案简单高效,Sagnac环中只使用了一个LiNb03强度调制器和基于法拉第镜的模式转换器,没有使用光滤波器和电移相器。同时,通过仿真实验证明了系统具有较好的频率可调节性和稳定性。(3)提出了一种基于级联光调制器的光学多载波产生方案。生成的多载波具有超平坦、边模抑制比高、光信噪比高、对射频信号初始相位差不敏感等优点。该方案可作为下一代波分复用量子无源光网络的量子光源的备选方案之一。