5G移动通信开启了高速的信息传输时代,各种应用都增大了对频谱的需求量,使得原本比较紧缺的无线频谱资源变得更加匮乏。可见光通信的频谱资源丰富,不需要申请频谱执照,通过LED传输,绿色环保,因此在无线通信领域受到了广泛的关注。可见光通信也有一个缺点,它的传输速率受到LED调制带宽的限制,为了解决这个问题,设计合适的调制方案是一个行之有效的方法。本文研究了多种可见光中的信号调制技术,包括通断键控、PPM/PMW调制、离散多音方式、CAP调制和正交频分复用,并且对各种调制方法的原理进行了说明,列举了优缺点。光OFDM技术延续了无线射频领域中的OFDM技术的优点,利用IFFT/FFT进行正交载波调制,极大的简化了系统的结构,同时能有效的对抗ICI和ISI,是可见光调制中的一种非常关键的技术。在5G通信技术的研究中,由于应用场景复杂,单一的场景设置已经不能满足当下的需求,因此各种能满足多载波需求的波形技术成为研究热点,例如,FBMC、UFMC、F-OFDM等。本文对上述几种调制方式的实现原理进行了描述,分析了各自的优缺点,通过比较发现F-OFDM具有很好的系统性能。OFDM具有很高的带外泄露,F-OFDM技术有效的避免了这个问题,具体方法是利用窗函数截断带外信号,可以根据具体需求来选用合适的窗函数。为了使F-OFDM技术能符合光信号传输的特点,需要对其结构进行一些改造,改进后的F-OFDM可以实现在一个信道内有若干个子带,根据应用场景的需要,每个子带可以有不同的波形设置,如子载波间隔、符号长度等。改进后的F-OFDM技术与现有的OFDM单极化技术一ACO-OFDM和DCO-OFDM相比,具有更好的系统性能。在信噪比相同的情况下,F-OFDM具有更低的误码率。QAM调制阶数会对误码率产生影响,阶数越低误码率越低,但是阶数太低又会影响系统性能,需要根据实际需求折中选择。在F-OFDM技术中,滤波器的设计是比较关键的一步,滤波器的性能可以影响信号的带外衰减幅度,也会对子带间隔产生影响。频率响应掩蔽滤波器可以用较低的阶数实现窄带滤波的功能,相比于传统方法能有效减少系统的复杂度。本文提出了将F-OFDM中的滤波器设计成FRM的形式,这种改变将会使系统的结构更简单,并且过渡带宽也会变小。F-OFDM具有多个子带,会产生多速率的问题,应用多相滤波器组可以完美的解决多抽样率的问题,提高系统的计算速率。在F-OFDM系统中使用基于FRM的多相滤波器组,在实现相同的过渡带宽的前提下,能大大减少滤波器的阶数,降低系统复杂度。本文对基于IFIR设计的多相滤波器组进行了结构上的改进,达到了使用最少的滤波器阶数来完成一样的效果。