可见光通信（VLC）具有兼顾照明、无电磁干扰、宽带宽和安全通信等技术优势,已引起了学术界和工业界的研究兴趣。将VLC应用于室内高速无线接入、工业物联网等领域,不仅可以解决传统无线通信所面临的电磁干扰问题,更能提供安全可靠的室内区域通信。作为正交频分复用（OFDM）基础上发展起来的新型调制技术,索引调制OFDM通过子载波索引比特携带额外信息,并利用子载波的激活或静默以降低载波间干扰,其继承了OFDM固有的抗多径衰落等特点,进一步改善了误码性能。然而,索引调制OFDM-VLC系统仍面临采样频偏（SFO）、高峰均功率比（PAPR）以及高频子载波衰落效应等问题。因此,本文采用高效的数字信号处理技术来解决上述问题。主要开展的工作如下:一、针对索引调制OFDM-VLC系统有SFO存在时的信号检测问题,提出了一种基于旋转均值聚类算法的新型检测方法。该方法通过两阶段的质心聚类和修正,分别实现了高精确度的索引比特和符号比特检测。此外,该检测方法不需要额外的SFO补偿和信道状态信息。仿真和实验结果表明,经自由空间传输3.5 m,误码率低于7%的前向纠错门限值时,QPSK-OFDM单模索引调制、BPSK-OFDM双模索引调制的SFO容忍度分别可达±120 ppm和±115 ppm。二、针对索引调制OFDM-VLC系统的高频子载波衰落、高PAPR及IFFT/FFT尺寸利用率不高的问题,提出了一种联合非厄密特对称和预编码的性能增强方法。该方法采用预编码降低PAPR、抵抗高频子载波衰落,并结合非厄密特生成实数信号以提高子载波利用率。实验结果表明,CAZACT、OCT、ZCT三种预编码均能均衡高频子载波信噪比从而提升系统的误码性能,其中CAZACT和ZCT能明显降低信号的PAPR。相对于传统的厄密特对称索引调制OFDM-VLC系统,非厄密特对称索引调制OFDM-VLC系统的硬件开销降低一半。