随着终端用户对带宽需求的迅速增长,可见光通信（VLC）技术由于其宽频带特性而受到越来越多的关注。此外,正交频分复用（OFDM）因其对信道损伤的鲁棒性、快速傅里叶变换（FFT）的高效实现和简单的均衡性,被广泛地应用在可见光通信中。与传统RF系统不同,VLC技术基于强度调制和直接检测（IM/DD）,其调制信息为光波的强度,因此在信道传输的信号必须是非负实数信号。本文针对一种高光功率效率的非对称截断光OFDM（ACO-OFDM）信号,研究了其在VLC系统中的信道均衡算法。本文的主要研究工作如下:1.提出了一种基于常范数算法（CNA）的盲均衡算法用于ACO-OFDM VLC系统。首先对盲均衡器的初始值和步长参数进行了分析,寻找最优值,以达到更快的收敛速度和均衡效果。在接收端,相比传统的均衡算法,基于CNA的盲均衡算法不需要训练序列或导频符号,可提高系统的光谱效率和有效数据速率。仿真结果表明,对于ACO-OFDM信号,基于CNA的盲均衡算法相比基于恒模算法（CMA）,均方误差（MSE）性能更优。此外,还比较了基于CNA、CMA的盲均衡算法和训练序列辅助的均衡算法在ACO-OFDM VLC系统的误码率性能。仿真结果表明,在相同数据速率下,基于CNA盲均衡算法的误码率（BER）优于CMA算法。2.提出了一种基于K-means聚类算法用于ACO-OFDM VLC系统,并进行了性能的仿真研究。该算法不需要利用训练序列,通过利用星座性能在接收端将接收信号进行分类,可有效提高系统的光谱效率。仿真结果表明,采用K-means聚类算法可以有效缓解ACO-OFDM信号在VLC系统中受到的非线性损伤,改善VLC系统的传输性能。在硬判决前向纠错（HD-FEC）门限值3.8×10^-3,相比不使用K-means聚类算法,提出的算法使信噪比提高了5dB。