随着移动通信网络的演进,第五代移动通信网络(5G)所支持的超高清4K视频、虚拟现实、云办公、无人驾驶等移动互联网应用将给人们的生活与工作带来极大的便利。但这些通信业务也给传统的移动网络构架带来了更高容量、更多用户接入和更低时延的挑战。传统光载无线系统虽然具备集中信号处理、网络管理和支持远端射频单元的优点,但是无法满足未来5G网络日益增长的容量、接入数和时延的需求,因而探索多维复用的光载无线系统对提升5G传输性能有着重要的研究价值。论文针对光载无线系统中的低频无线与高频无线中的核心技术开展研究。在低频光载无线传输系统中引入了偏振复用、使用多芯光纤和少模光纤的空间复用等多种多维复用方式。而针对高频光载无线传输系统,主要探索了针对毫米波的波束定位的相关内容。论文的主要研究成果如下:(1)针对低频光载无线传输系统,研究了基于使用偏移正交幅度调制的正交频分复用调制(OFDM/OQAM)技术,提出了干扰消除算法来消除整形滤波器在接收端带来的串扰。更进一步的,将调制技术拓展到多输入多输出(MIMO)情形,并且利用偏振复用(PDM)进行了实验验证。结果表明,相比于传统的OFDM,OFDM/OQAM可以在实现相似的性能情况下提升系统4.6%的频谱效率。(2)将MIMO-OFDM/OQAM调制技术引入了基于多芯光纤的空分复用系统中,构建了支持上下行的传输系统。实验结果表明,利用多芯光纤丰富的芯资源,可以有效的实现更多维度的复用以及支持基于远程光载波注入的无色上行传输。在此基础上,更进一步的研究了MIMO-OFDM/OQAM信号在多芯光纤中的传输性能。通过熔融拉锥改变了多芯光纤的芯间串扰,测试了不同串扰下的性能表现。结果表明MIMO-OFDM/OQAM信号对多芯光纤的芯间串扰可以容忍度可达-10dB/20km。(3)研究了MIMO-OFDM/OQAM信号在基于少模光纤的空分复用系统中的传输特性。由于所使用的椭圆芯少模光纤会产生比较大的模式间时延,会给不使用循环前缀的OFDM/OQAM信号带来额外的串扰,因此提出了基于串扰估计迭代消除串扰的方式。实验数据显示,该算法可以在60ns时延条件下将信号的误差矢量幅度维持在15%以下,而同等情况下的传统OFDM需要25%长度的循环前缀。这些结果不仅证明了使用模式复用来拓展光载无线传输容量可行性,还证明了提出的算法还可以增强信号在模式复用中的传输性能。(4)高频无线(毫米波,MMW)的信号载波频率较高,在空气中衰减较大,所以需要进行波束赋形(beamforming)。波束赋形会减少MMW的波束宽度,所以系统需要知道用户的准确方位。因此本文针对室内MMW应用场景创新性的提出了利用发光二极管(LED)和机器学习(ML)进行精准定位并为MMW beamforming服务的系统。实验结果表明,定位系统的精度可高达0.9cm,这足以支持高频段光载无线传输中的波束赋形。这些研究工作能为为未来5G基于MMW的光载无线传输系统打下了基础。