可见光通信（Visible Light Communication,VLC）利用发光二极管（Light Emitting Diodes,LED）作为发射光源,将照明和通信技术相结合,具有保密性好、无需频谱许可、成本低等优点。在典型的室内环境中,常安装多个LED阵列保证充足的照明需求,并且室内通常分布着多个用户终端,这与LED阵列构成多用户多输入多输出（Multiple Input Multiple Output,MIMO）可见光通信系统,可以有效提升VLC系统速率,但是多用户会导致用户间干扰产生,从而降低系统中用户的误码率性能。多用户间干扰（Multi-User Interference,MUI）可使用预编码算法处理,针对每个用户终端配备多个光接收机的情况,目前多用户MIMO可见光通信系统中常用的预编码算法是基于奇异值分解（Singular Value Decomposition,SVD）的块对角（Block Diagonal,BD）预编码。但由于同用户光接收机间信道的强相关性,基于该预编码算法的VLC系统存在局限性,即同一用户终端的不同光接收机误码率性能差异较大。针对该问题,本文分别将三种预编码算法应用于VLC系统。基于此,本文主要完成的工作如下:（1）本文首先简要概述了VLC系统,该系统主要包括三个模块:发射模块、信道模块和接收模块。发射模块介绍白光LED的种类、光学特性和调制特性。信道模块介绍光无线通信中的两种链路模型。接收模块介绍光接收机的接收信号范围,以及影响光接收机性能的两类噪声。（2）本文将基于几何均值分解（Geometric Mean Decomposition,GMD）的BD预编码应用于室内VLC系统,并在用户接收端采用判决反馈均衡器消除数据流间干扰,详细分析该系统的原理。最终仿真结果表明:与SVD-BD预编码系统相比,该系统可使同一用户终端的不同光接收机获得相近的误码率性能,从而降低用户终端误码率。（3）本文将非线性模代数预编码（Tomlinson-Harashima Precoding,THP）演变的THP-BD预编码应用于VLC系统,然而该系统中光接收机噪声被不同程度的放大。针对该问题,将改进后的THP-BD预编码应用于VLC系统。最终仿真结果表明:与SVDBD预编码系统相比,在用户终端误码率性能方面,两种非线性预编码系统均有一定改善,但受限于同用户终端光接收机间信道的强相关性,该两种系统性能并不理想。（4）针对上述信道相关性强的问题,本文采用同用户终端光接收机分别配置不同视场角（Field of View,FOV）的方案,降低用户终端信道相关性,并求取同用户终端光接收机采用的最优FOV组合。基于此组合,本文对上述三种预编码系统的误码率性能进行研究,仿真结果表明:此组合有效提升各预编码系统的误码率性能,其中GMD-BD预编码系统性能最优。在此基础上,分析了用户终端位置对GMD-BD预编码系统误码率性能的影响。