随着高清视频业务的普及,移动通信技术由4G向5G的迈进,以及物联网引领的万物互联时代的到来,信息通信网络的数据流量持续飞速提升。但是光网络作为信息通信网络的最重要的组成部分,近年来其容量增长速率逐渐趋缓,同时单根光纤系统实验中传输容量已经达到单模光纤的非线性仙农极限。光网络在可预见的未来必将面临“容量危机”。空间维度作为光纤的最后一个未被利用的物理维度,通过多输入多输出的系统应用方式,能够成倍提升传输系统容量,是“容量危机”的潜在解决方案。其中,基于少模光纤的空分复用通常也被称为模分复用。本论文中,作者基于Matlab软件搭建基于少模光纤的模分复用系统数值仿真平台,并提出利用链路中点光相位共轭技术实现模分复用系统的非线性补偿方案,以及面向光纤通信物理层安全,提出基于数字混沌函数的模分复用系统安全传输方案。主要工作和创新成果包括以下几个方面:1.针对基于少模光纤的模分复用系统,根据少模光纤的线性传输模型与非线性传输模型,搭建大容量多模式双偏振相干光传输数值仿真平台。通过构建模块化的发射端、少模光纤链路和接收端,可以灵活的变换传输场景。与传统单模光纤传输仿真系统相比,作者搭建的仿真平台能够模拟少模光纤传输过程的模式耦合、模式色散、模式间非线性等多种模分复用系统中所特有的物理损伤。能够为基于少模光纤的模分复用系统设计提供参考,为模分复用信号传输性能的分析提供基础,为损伤补偿方案及数字信号处理算法的有效性提供验证平台。2.在模分复用传输系统中,信号传输过程中主要遭受到的物理损伤包括光纤衰减、模式耦合、色度色散、模式色散和非线性效应。利用链路中点光相位共轭技术,在少模光纤链路前半段的累积的色度色散可以在传输的后半段被完全抵消;少模光纤非线性因与功率密切相关,因此链路中点光相位共轭技术在模分复用系统中对非线性损伤的补偿效果将依赖于少模光纤链路设计。此外,模分复用系统中的差分模式群时延也会对非线性损伤补偿效果产生较大影响。在对称信号功率演变场景中,不考虑差分模式群时延时,单波长和多波长的信号Q因子提升均超过10dB。少模光纤链路中存在差分模式群时延时,单波长和多波长的信号Q因子提升分别为6.6dB和2.8dB。非对称信号功率演变场景中,不考虑差分模式群时延时,单波长和多波长的信号Q因子提升分别为2.2dB和1.61dB。少模光纤链路中存在差分模式群时延时,单波长和多波长的信号Q因子提升分别为1.9dB和0.91dB。3.利用三维混沌函数得到的混沌序列分别控制实现“混乱”效应的星座图变换算法和实现“扩散”效应的符号-空间映射算法,并经过多次迭代后,将原始符号拆分、重组、分散到模分复用系统各个空间信道。同时,分别在安全密钥、加密系统信息熵和初值敏感性三方面,对数字混沌模分复用安全传输系统的安全性能进行分析。仿真结果显示,虽然基于数字混沌的模分复用安全传输系统相较于传统传输方案会发生误码扩散现象:迭代1次和5次的传输误码率分别上升0.5dB和1.3dB。但是当此误码扩散现象和模分复用系统的模式相关损耗相结合时将带来更高的安全性,即无论非法接收方接收到部分光信号或得到部分混沌序列时解密后的信号误码率高于40%。保证当且仅当接收端为合法的接收者时才能够通过算法解密得到保密信息。