随着射频通信与光无线通信的逐步融合,开发与下一代移动通信系统相适应的未来光无线通信网络成为业界的努力方向,开展相关通信理论和技术的研究具有迫切的现实需求和重要的科学价值。较之单载波传输方案,光正交频分复用(Optical Orthogonal Frequency Division Multiplexing,OOFDM)的主要优势在于其抗码间干扰和非线性干扰的能力出色,均衡简单,并且允许对每个子载波上的低速数据流进行单独的编码、调制和功率控制,从而进行自适应信道的高速信息传输,目前以OOFDM为主要代表的多载波通信方案正逐渐成为光无线通信领域中除单载波调制外的主流通信方式。然而,现有OOFDM方案存在一些难以克服的固有缺陷,包括带外衰减慢、对频率同步要求高、当各子载波上的信道条件差异较大时不能获取全部的信道容量等。鉴于此,近年来光无线通信中基于滤波器组多载波技术的传输方案开始受到业界关注。本文将围绕滤波器组多载波光无线通信关键技术展开研究。首先,对光无线通信系统中滤波器组多载波技术的发展、光无线通信系统的信道建模和滤波器组多载波的基本原理进行概述,进而引出两种现有的光滤波器组多载波通信方案,即基于直流偏置和基于非直流偏置的光滤波器组多载波系统。其次,针对现有光滤波器组多载波传输方案的滤波器设计较为复杂、多用户网络传输性能较差等问题,本文提出了一种应用于光无线通信多用户上行链路中的基于直流偏置的光滤波器组多址接入(Direct Current Biased Optical Filter Bank Multiple Access,DCOFBMA)方案。其采用普通的低通滤波器作为原型滤波器,不再受限于完全重构/近似完全重构约束,并且分别采用窄带子载波和宽带子载波两种方式进行多用户访问,而接收端通过联合子带频域均衡来进行信号解调。然后,鉴于前文所提方案在分析滤波器组中对接收信号进行了临界下采样操作,此举可能会导致处于滤波器边缘的信号经过下采样后“折叠”到通带中造成信息损失,本文提出了两种改进的光滤波器组多址接入系统接收机设计方案。首先考虑在接收端利用过采样信号进行数据检测,提出一种基于过采样分析滤波器组的接收机;然后,进一步考虑放弃分析滤波处理,提出一种下采样频域接收机。此外,为了获取更好的系统检测性能,在接收端引入迭代多用户干扰消除技术。最后,鉴于前文所提方案中每个用户的发送信号仅被加载到某个特定的频率范围内,发送信号可能被随机衰落信道严重失真,尤其是具有强频率选择性的信道,本文又提出了一种基于双频结构的光滤波器组多址接入系统。其允许每个用户在两个子带上发送其信号,即每个子带同时传输两个用户的信息,此举可以增大系统的频率分集增益。此外,由于所提方案引入了用户间干扰信息,接收端借助最小均方误差估计和迭代并行干扰消除来执行联合子带频域均衡操作,以实现正确的信号解调。综上所述,本文主要研究了光无线通信系统中滤波器组多址接入方案的关键技术,首先提出了一种应用于光无线通信多用户上行链路中的DCO-FBMA方案,包括宽子带和窄子带两种访问方式,然后在宽子带DCO-FBMA方案的基础上对接收机提出了两种改进方案,最后提出了一种基于双频结构的宽子带DCO-FBMA方案。理论分析和仿真结果表明,与传统DCO-FBMA方案和DCO-OFDMA方案相比,本文所提宽子带DCOFBMA方案具有更低的峰均功率比和更优的误比特率性能。